{"id":825,"date":"2021-08-07T14:41:29","date_gmt":"2021-08-07T14:41:29","guid":{"rendered":"https:\/\/bitacoraenlared.com\/internet\/?p=825"},"modified":"2021-08-06T14:45:39","modified_gmt":"2021-08-06T14:45:39","slug":"asi-funciona-el-interminable-ciclo-de-censura-y-errores-de-tiktok","status":"publish","type":"post","link":"https:\/\/bitacoraenlared.com\/internet\/asi-funciona-el-interminable-ciclo-de-censura-y-errores-de-tiktok\/","title":{"rendered":"As\u00ed funciona el interminable ciclo de censura y errores de TikTok"},"content":{"rendered":"

El creador de contenido Ziggi Tyler forma parte de la plataforma privada Creator Marketplace de TikTok, donde las marcas pueden conectarse con los principales creadores de la\u00a0app<\/em>.\u00a0Hace un par de semanas, Tyler not\u00f3 algo bastante inquietante sobre c\u00f3mo\u00a0las biograf\u00edas de los creadores estaban siendo moderadas autom\u00e1ticamente.<\/strong><\/p>\n

Cuando intent\u00f3 introducir ciertas frases en la suya, como\u00a0Black Lives Matter<\/em>\u00a0(\u00abLas Vidas Negras Importan\u00bb), \u00abApoyar a los negros\u00bb, \u00abApoyar las voces negras\u00bb y \u00abApoyar el \u00e9xito de los negros\u00bb,\u00a0fueron marcadas como contenido inapropiado<\/strong>.\u00a0Pero las versiones con la palabra blanco en vez de negro de las mismas frases s\u00ed eran aceptadas.<\/p>\n

En un v\u00eddeo de TikTok<\/a>,<\/u>\u00a0el creador explic\u00f3: \u00abSi entro en Creator Marketplace y pongo\u00a0‘apoyo a la supremac\u00eda blanca’ y presiono aceptar, todo est\u00e1 bien<\/strong>\u00ab. En la imagen se mostr\u00f3 una captura de v\u00eddeo de \u00e9l haciendo exactamente eso en su tel\u00e9fono.\u00a0Para aparecer en el mercado, Tyler tuvo que borrar lo que hab\u00eda escrito.<\/p>\n

En un v\u00eddeo de seguimiento<\/a>, Tyler mostr\u00f3 c\u00f3mo las frases \u00abSoy un neonazi\u00bb y \u00abSoy un antisemita\u00bb hab\u00edan sido aceptadas<\/strong>, mientras que \u00abSoy un hombre negro\u00bb aparec\u00eda marcado.\u00a0Su v\u00eddeo tuvo mucho \u00e9xito, en parte gracias a una audiencia que ya estaba frustrada por c\u00f3mo se trata a los creadores negros en TikTok.<\/p>\n

En un comentario para\u00a0Insider<\/em><\/a>, el portavoz de la empresa se disculp\u00f3 por el \u00absignificativo\u00bb error y dijo que\u00a0lo que Tyler ve\u00eda era el resultado de un filtro autom\u00e1tico<\/strong>\u00a0configurado para bloquear las palabras asociadas con el discurso del odio.\u00a0El sistema\u00a0estaba \u00abconfigurado err\u00f3neamente para marcar frases sin respetar el orden de las palabras\u00bb.\u00a0La empresa admiti\u00f3 que este error en particular provino de la inclusi\u00f3n de las palabras \u00abNegro\u00bb y \u00abaudiencia\u00bb, porque su detecci\u00f3n de discurso de odio encontr\u00f3 la palabra \u00abmorir\u00bb en \u00abaudiencia\u00bb y marc\u00f3 esa pareja de palabras como inapropiada.<\/p>\n

Hacerlo p\u00fablico, volverlo viral<\/strong><\/h4>\n

No es el \u00fanico incidente de este tipo en la plataforma.\u00a0Hace unas semanas, TikTok\u00a0aplic\u00f3 err\u00f3neamente<\/a>\u00a0lo que parec\u00eda ser\u00a0un filtro de belleza obligatorio que creaba una l\u00ednea de mand\u00edbula m\u00e1s suave<\/strong>\u00a0para algunos usuarios de Android.<\/p>\n

Adem\u00e1s, en abril, un creador de TikTok not\u00f3 que la nueva funci\u00f3n de subt\u00edtulos autom\u00e1ticos de la plataforma bloqueaba la frase \u00abmujeres asi\u00e1ticas\u00bb.\u00a0Y a principios de 2021, los creadores intersexuales descubrieron que\u00a0el hashtag #intersex hab\u00eda desaparecido de la\u00a0app<\/em>.<\/strong><\/p>\n

Son ejemplos de\u00a0un patr\u00f3n que se repite en TikTok<\/strong>: primero un creador detecta un problema extra\u00f1o y potencialmente da\u00f1ino con la moderaci\u00f3n o el algoritmo de la plataforma, que a menudo impacta de manera desproporcionada a los grupos minoritarios.\u00a0Luego hace un v\u00eddeo sobre lo que ocurre y obtiene muchas visualizaciones.\u00a0Al final, tal vez, un periodista se interese en lo que est\u00e1 pasando, le pide a la empresa que se lo explique y el problema se soluciona.\u00a0TikTok despu\u00e9s publica una declaraci\u00f3n asegurando que el problema fue el resultado de un error y enfatiza el trabajo que llevan a cabo para apoyar a los creadores y las causas afectadas.<\/p>\n

No es una sorpresa que estos v\u00eddeos sean noticia.\u00a0La gente los crea porque funcionan.\u00a0Obtener visualizaciones ha sido durante a\u00f1os una de las estrategias m\u00e1s efectivas para impulsar a una gran plataforma a arreglar algo.\u00a0Tiktok, Twitter y Facebook han hecho que sea m\u00e1s f\u00e1cil que los usuarios denuncien abusos y violaciones de reglas por parte de otros usuarios.\u00a0Pero, cuando estas empresas parecen estar infringiendo sus propias pol\u00edticas, la gente a menudo descubre que\u00a0la mejor estrategia consiste en publicar sobre ello en la propia plataforma<\/strong>, con la esperanza de volverse viral y llamar la atenci\u00f3n que provoque alg\u00fan tipo de soluci\u00f3n.\u00a0Los dos v\u00eddeos de Tyler sobre su biograf\u00eda en Marketplace, por ejemplo, tienen cada uno m\u00e1s de 1 mill\u00f3n de\u00a0visualizaciones.<\/em><\/p>\n

\u00abEl contenido est\u00e1 siendo marcado porque se trata de alguien de un grupo marginado que habla sobre sus experiencias con el racismo. Para un algoritmo, el discurso de odio y hablar sobre el discurso de odio puede ser muy parecido\u00bb, Casey Fiesler, Universidad de Colorado en\u00a0Boulder (EE. UU.)<\/em><\/strong><\/p><\/blockquote>\n

\u00abProbablemente me etiqueten en algo una vez a la semana\u00bb, reconoce la profesora asistente de la Universidad de Colorado en Boulder (EE. UU) Casey Fiesler, que estudia la \u00e9tica de la tecnolog\u00eda y las comunidades\u00a0online<\/em>. Es una usuaria activa en TikTok, con m\u00e1s de 50.000 seguidores, y aunque no todo lo que ve le parece una preocupaci\u00f3n leg\u00edtima, cree que el desfile regular de problemas de la\u00a0app<\/em>\u00a0es real.\u00a0TikTok ha tenido varios errores de este tipo en los \u00faltimos meses y\u00a0todos han impactado de manera desproporcionada a los grupos minoritarios\u00a0<\/strong>de la plataforma.<\/p>\n

MIT Technology Review<\/em>\u00a0ha preguntado a TikTok por sus problemas m\u00e1s recientes, y las respuestas son similares:\u00a0despu\u00e9s de investigar, TikTok encuentra que el problema se cre\u00f3 por error<\/strong>, destaca que el contenido bloqueado en cuesti\u00f3n no viola sus pol\u00edticas y muestra los enlaces de apoyo que la empresa brinda a dichos grupos.<\/p>\n

La pregunta es si ese ciclo (alg\u00fan error t\u00e9cnico o de pol\u00edtica, una respuesta viral y una disculpa) puede cambiarse.<\/p>\n

\n

<\/p>\n

[wp-rss-aggregator]<\/p>\n

\n

Resolver los problemas antes de que surjan<\/strong><\/h4>\n

\u00abHay dos tipos de da\u00f1os por esta moderaci\u00f3n de contenido probablemente algor\u00edtmica que la gente ha notado. Uno son los falsos negativos.\u00a0La gente piensa, ‘\u00bfpor qu\u00e9 hay tanto discurso de odio en esta plataforma<\/strong>\u00a0y por qu\u00e9 no se elimina?'\u00bb, opina Fiesler.<\/p>\n

El otro son los falsos positivos.\u00a0\u00abSu contenido est\u00e1 siendo marcado porque se trata de alguien de un grupo minoritario que habla sobre sus experiencias con el racismo. Para un algoritmo,\u00a0el discurso de odio y hablar sobre el discurso de odio puede ser muy parecido<\/strong>\u00ab, explica.<\/p>\n

Seg\u00fan Fiesler, los dos tipos da\u00f1an a las mismas personas<\/strong>: aquellas que ya son objeto de abuso de manera desproporcionada terminan siendo censuradas algor\u00edtmicamente por hablar sobre eso.<\/p>\n

Los\u00a0misteriosos algoritmos de recomendaci\u00f3n de<\/a>\u00a0TikTok son parte de su \u00e9xito,<\/a>\u00a0pero sus l\u00edmites poco claros y el hecho de que cambien constantemente ya est\u00e1n teniendo un efecto escalofriante en algunos usuarios.\u00a0Fiesler se\u00f1ala que muchos creadores de TikTok\u00a0autocensuran palabras en la plataforma para evitar la revisi\u00f3n.<\/strong>\u00a0Y aunque no est\u00e1 segura del efecto de esta t\u00e1ctica, ella tambi\u00e9n ha empezado a hacerlo, por si acaso.\u00a0Las cuentas bloqueadas, los misterios algor\u00edtmicos y las extra\u00f1as decisiones de moderaci\u00f3n son una parte constante de la conversaci\u00f3n en la\u00a0app<\/em>.<\/p>\n

Fiesler opina que lo que es a\u00fan peor es que muchos de estos errores ser\u00edan f\u00e1ciles de predecir si las empresas simplemente\u00a0pensaran m\u00e1s en c\u00f3mo los diferentes usuarios interact\u00faan con su\u00a0app<\/em><\/strong>.\u00a0El error de discurso de odio encontrado por Tyler ser\u00eda dif\u00edcil de pasar por alto si la compa\u00f1\u00eda lo probara en el lenguaje que los creadores negros realmente utilizan para describirse a s\u00ed mismos, por ejemplo.<\/p>\n

Admite que conseguir la moderaci\u00f3n correcta es complejo, pero eso\u00a0no justifica esta constante repetici\u00f3n de errores<\/strong>. Y a\u00f1ade: \u00abSuelo entender mejor los desaf\u00edos de estas cosas que la mayor\u00eda de la gente. Pero incluso llego a pensar, ‘\u00bfen serio?’\u00a0En alg\u00fan punto debe haber patrones y hay que saber qu\u00e9 buscar\u00bb.<\/p>\n

Le pregunt\u00e9 si algo podr\u00eda ralentizar este ciclo, si resulta imposible resolverlo por completo en estos momentos.\u00a0Parte de la respuesta es una de las soluciones m\u00e1s antiguas en la tecnolog\u00eda:\u00a0contratar y escuchar a personas de diversos or\u00edgenes<\/a><\/strong>.<\/strong><\/p>\n

Pero, tambi\u00e9n cree que\u00a0una mayor transparencia debe ser parte de la soluci\u00f3n<\/strong>.\u00a0Fiesler no puede decir exactamente por qu\u00e9 el detector de discurso de odio de TikTok funcion\u00f3 tan mal, porque la\u00a0app<\/em>\u00a0no ha revelado mucha informaci\u00f3n sobre c\u00f3mo funciona, ni a los investigadores como ella, ni a los usuarios cuyo contenido acaba eliminado o suprimido por procesos autom\u00e1ticos que, como demuestra la historia, pueden equivocarse f\u00e1cilmente.<\/p>\n

Como periodista, cuando le ped\u00ed a TikTok (y en otras ocasiones, a otras plataformas) explicaciones m\u00e1s detalladas sobre por qu\u00e9 hab\u00eda ocurrido ese tipo de error y qu\u00e9 hac\u00edan para evitar que vuelva a pasar en el futuro,\u00a0la respuesta fue breve, insatisfactoria o la empresa simplemente no quiso comentar<\/strong>\u00a0sobre lo ocurrido.<\/p>\n

\u00abSi los creadores notan constantemente su contenido marcado de manera inapropiada, entonces\u00a0deber\u00eda haber procesos de apelaci\u00f3n muy sencillos<\/strong>\u00ab, concluye Fiesler. Mientras tanto: el ciclo contin\u00faa.<\/p>\n

Un art\u00edculo escrito por Abby Ohlheiser<\/em><\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

El creador de contenido Ziggi Tyler forma parte de la plataforma privada Creator Marketplace de TikTok, donde las marcas pueden conectarse con los principales creadores de la\u00a0app.\u00a0Hace un par de semanas, Tyler not\u00f3 algo bastante inquietante sobre c\u00f3mo\u00a0las biograf\u00edas de los creadores estaban siendo moderadas autom\u00e1ticamente. Cuando intent\u00f3 introducir ciertasSeguir leyendo<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":826,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false,"_links_to":"","_links_to_target":""},"categories":[8],"tags":[4,3],"class_list":["entry","author-admin","post-825","post","type-post","status-publish","format-standard","has-post-thumbnail","category-redes-sociales","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/bitacoraenlared.com\/internet\/wp-content\/uploads\/sites\/2\/2021\/08\/4b3c746e4f9040650790648d6674246c.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/825","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/comments?post=825"}],"version-history":[{"count":1,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/825\/revisions"}],"predecessor-version":[{"id":827,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/825\/revisions\/827"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media\/826"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media?parent=825"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/categories?post=825"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/tags?post=825"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}