¿Si ves alguna publicación que contenga el emoji de la berenjena en qué piensas? Sí, probablemente hayas pensado en contenido sexual, que es para lo que se usa actualmente el emoji. Ahora, si ves publicaciones sobre “camping” ¿qué llega a tu cabeza?, acampar, viajar, naturaleza, etc. lamentamos decirte que no es nada de lo que piensas. Los usuarios han empezado a usar el término y emojis sobre “camping” para referirse al aborto.
La práctica que está inundando ahora a las redes sociales bajo el nombre de ‘algospeak’ (lenguaje algorítmico) es utilizada para discutir temas controversiales con términos que no están relacionados. Los emojis, errores tipográficos deliberados y palabras claves que se usan para hablar sobre un tema totalmente diferente se empezó a utilizar para desviar la mirada de la inteligencia artificial (IA) moderadora de las aplicaciones.
Por si no lo sabes, dichas IA funcionan para detectar contenido sensible o contenido que infrinja las reglas de la red social o aplicación. Siobhan Hanna supervisora de las soluciones de datos de IA para Telus International, empresa canadiense que ha brindado servicios de moderación de contenido humano y de IA a las principales redes sociales, incluida TikTok, sostiene que «camping» es solo una de las palabras que se han adaptado de esta manera.
Te puede interesar: ¿Qué son los nuevos ‘Gifs’ de Instagram?
Por ejemplo, el término “pizza de queso” se está utilizando, principalmente en Estados Unidos, para ofrecer intercambio de imágenes explícitas de menores de edad. Frases como “tocar el techo” lleva implícita la solicitud a jóvenes para que muestren sus cuerpos a los seguidores de sus redes sociales. Esto por mencionar algunas de las palabras claves y emojis usados como ‘algospeak’.
Así mismo, Hanna explica que ‘algospeak’ se usa principalmente para eludir las reglas sobre el discurso de odio, acoso e intimidación. En segunda instancia, se utilizan las palabras claves para evadir las políticas sobre violencia y explotación. Lo cierto es que dichas evasiones alternativas están en constante evolución, lo que se traduce en un desafío mayor para las empresas de tecnología. Hasta ahora, las IA pueden detectar material que viola explícitamente sus normas, pero es mucho más difícil para la IA leer entre líneas eufemismos o frases con un significado totalmente diferente.
Imagen: Montaje ENTER.CO
