“AlgoSpeak”, el nuevo lenguaje del Internet
No es un secreto que los algoritmos son estrictos a la hora de identificar qué contenido debe censurarse y qué no según sus estándares en internet. Esto ha originado situaciones donde contenido que no debería ser prohibido termina siéndolo. En esta situación, los creadores se han ingeniado maneras de salir adelante.
"AlgoSpeak" Se define como la manera de los internautas para comunicarse a través de palabras claves o giros de frases, siendo adoptados en un esfuerzo por crear un vocabulario seguro para evitar que los sistemas de moderación de contenido eliminen o quiten visibilidad a sus publicaciones. Por ejemplo, en muchos videos en línea, es común decir "no vivo" en lugar de "muerto"; "SA" en lugar de "agresión sexual" o "berenjena picante" en lugar de "vibrador".
Las redes sociales se ajustan a los intereses de cada usuario y se adaptan para ofrecer contenidos más adecuados a las búsquedas por palabras clave. De hecho, son las protagonistas para establecer un perfil definido para cada internauta, y así ocurre en todas las redes sociales con grandes cantidades de usuarios.
TikTok: un caso de estudio
A raíz de la pandemia, que empujó a más personas a comunicarse y expresarse en línea, los sistemas algorítmicos de moderación de contenido tuvieron un impacto sin precedentes en las palabras que elegimos, particularmente en TikTok, y dieron lugar a una nueva forma de lenguaje impulsado por los usuarios de internet.
A diferencia de otras plataformas sociales, la forma principal en la que distribuye el contenido en TikTok es a través de la pestaña "Para Ti" seleccionada algorítmicamente, si no tienes seguidores, no significa que la gente no verá tu contenido. Este cambio ha llevado a que los usuarios enfoquen sus videos principalmente en lo que le gusta al algoritmo y se olvidan un poco de los seguidores, por lo que cumplir con las reglas de moderación de contenido es más crucial que nunca.
Los usuarios en TikTok y otras aplicaciones utilizaron esto para comenzar a hablar sobre la lucha contra la salud mental. Hablaron sobre "perder la vida" para tener conversaciones francas sobre el suicidio sin ser castigados por el algoritmo. Las trabajadoras sexuales, que durante mucho tiempo han sido censuradas por los sistemas de moderación, se refieren a sí mismas en TikTok como “contadores”.
¿Cómo hablamos actualmente en redes?
Con el paso de eventos cada vez más importantes para la sociedad y con el objetivo de filtrar los sistemas algorítmicos para la entrega de contenido, se ha modificado la manera de comunicarnos. Recientemente, hablar sobre la invasión de Rusia a Ucrania llevó a usuarios de redes sociales como YouTube y Tiktok a usar el emoji de girasol para representar al país, de esta forma animar la conversación en otros lugares y hacerle seguimiento a la situación.
Por otro lado, las comunidades de trastornos alimentarios a favor de la anorexia han adoptado durante mucho tiempo por variaciones de palabras moderadas para evadir las restricciones. Para el año 2021 los grupos antivacunas en Facebook adoptaron nombres como “fiesta de baile” o “cena”. Por otro lado, sus similares en Instagram empleaban palabras para referirse a las personas vacunadas como “nadadores”.
El adaptar nuestra manera de comunicarnos para evitarnos problemas es anterior a la época comunicacional en la que estamos. Diferentes religiones evaden el pronunciar al “Diablo” para no invocarlo, mientras que países sumidos en gobiernos dictatoriales han desarrollado palabras claves para discutir temas sensibles.
Durante el 2017 en YouTube, miles de anunciantes retiraron sus dólares de la plataforma por temor a contenido inseguro. Los creadores LGBTQ hablaron sobre la desmonetización de videos por decir la palabra "gay". Algunos comenzaron a usar menos el término o a sustituirlo por otros para mantener su contenido monetizado. Más recientemente, los usuarios de TikTok han comenzado a decir "cornucopia" en lugar de "homofobia", o dicen que son miembros de la comunidad "leg booty" para indicar que forman parte de la comunidad LGBTQ.
“Hay una línea que tenemos que seguir, es una batalla interminable de decir algo y tratar de transmitir el mensaje sin decirlo directamente”. Sean Szolek-VanValkenburgh, un creador de TikTok con más de 1,2 millones de seguidores.
Las conversaciones sobre la salud de la mujer, el embarazo y los ciclos menstruales en TikTok también se clasifican constantemente a la baja. Se reemplazan las palabras "sexo", "periodo" y "vagina" con otras palabras o las deletrea con símbolos en los pies de foto. Muchos usuarios dicen "nip nops" en lugar de "pezones". Los usuarios negros, trans, y de otras comunidades marginadas, a menudo utilizan lenguaje algorítmico para discutir lo que enfrentan, intercambiando palabras por "blanco" o "racista". Algunos están demasiado nerviosos para pronunciar la palabra "blanco" y simplemente acercan la palma de la mano a la cámara para referirse a las personas blancas.
Los usuarios de TikTok ahora usan la frase "le dollar bean" en lugar de "lesbiana" porque es la forma en que la función de texto a voz de TikTok pronuncia "Le$bian", una forma censurada de escribir "lesbiana" que los usuarios creen que evadirá la moderación de contenido.
Como respuesta, han aparecido organizaciones como “Zuck Got For Me”, sitio creado por una administradora de cuentas de memes que se hace llamar Ana. Este un lugar donde los creadores pueden subir contenido sin sentido que fue prohibido por los algoritmos de moderación de Instagram. En un manifiesto sobre su proyecto, destacan los siguiente:
"La libertad creativa es uno de los únicos aspectos positivos de este infierno en llamas en línea en el que todos existimos... A medida que los algoritmos se endurecen, son los creadores independientes los que sufren".
Conclusión
Las inteligencias artificiales son las encargadas de moderar o censurar los contenidos que son potencialmente polémicos. Por lo tanto, no tienen ese nivel de comprensión profundo que tenemos las personas para descifrar lo que es correcto o no. Por ello, hay contenidos informativos muy útiles y educativos a los que no se les da visibilidad o directamente son eliminados de manera injusta porque tratan temas que el propio algoritmo de cada red tiene clasificado como potencialmente censurable.
Esto no significa que todos los esfuerzos para erradicar el mal comportamiento, el acoso, el abuso y la desinformación sea imposible. Pero son los problemas de raíz los que deben priorizarse, la moderación agresiva nunca será una solución real a los daños que vemos en las prácticas comerciales de las grandes empresas de tecnología, es una tarea para los formuladores de políticas y para construir mejores cosas, mejores herramientas, mejores protocolos y mejores plataformas.
En última instancia, nunca podremos desinfectar del todo el Internet.