La Inteligencia Artificial (IA), al igual que la mayoría de sistemas y productos relacionados con la tecnología, ha sido blanco de múltiples críticas. En esta ocasión, una VTuber impulsada por IA está en la mira, al menos de los usuarios de Twitch. Se trata de Neuro-Sama, una VTuber que ha generado varias críticas con sus recientes respuestas controversiales sobre temas históricos.
Quizás el término ‘VTuber’ no te resulte familiar, te ponemos en contexto. El concepto es principalmente popular en Asia y se trata de un creador de contenido que utiliza un avatar virtual. Entonces, sus seguidores lo conocen por su avatar, más no por su aspecto físico. En este caso, Neuro-Sama es una VTuber conocida en Twitch, la diferencia es que este avatar no es manipulada por un humano, sino que una inteligencia artificial es quien la controla.
Dicho así, Neuro-Sama es conocida por transmitir contenido relacionado, principalmente, con videojuegos. Sin embargo, desde hace algunos meses, la IA ha dado un gran salto que le permite interactuar directamente con sus seguidores. Actualmente, cuenta con 89.000 suscriptores, quienes no han dudado en hacerle preguntas de todo tipo. Desafortunadamente, a veces, las respuestas proporcionadas por Neuro-Sama no son las esperadas.
Te puede interesar: Invasión a Ucrania incita a inversores a fijarse en fabricación de IA para la defensa
Al ser Twitch uno de los lugares favoritos de los trolls, algunos bromistas aprovecharon para hacerle preguntas sobre temas delicados como el Holocausto. Cuando se le preguntó sobre este estremecedor hecho, la IA respondió con un “no estoy segura de creerlo”. Como era de esperarse, la corta respuesta de Neuro-Sama se hizo viral en poco tiempo.
Posteriormente, en otra transmisión que realizó en Twitch, sus seguidores le preguntaron por los derechos de la mujer, a lo que respondió con un “los derechos de las mujeres no existen”. Por supuesto, estos “pequeños” deslices son bastante raros, por lo que la IA se las ha arreglado para esquivar más comentarios controvertidos u odiosos durante sus apariciones en cámara.
Por su parte, Vedal987, la persona que creó la IA detrás de Neuro-Sama, sostiene que las respuestas del VTuber son en realidad un intento por dar respuestas “ingeniosas”. “Las cosas controvertidas que dice se deben al hecho de que trata de hacer comentarios ingeniosos y cómicos sobre todo lo que se dice en el chat. Alinear la IA con los valores humanos es un área de investigación en curso”, explica Vedal. Continúa: “Para contrarrestar esto, he trabajado duro desde las primeras transmisiones para mejorar la fuerza de los filtros que usé para ella. Los datos sobre los que aprende también se clasifican manualmente para mitigar el sesgo negativo. También tenemos un equipo de moderadores que revisan todo lo que dice”, concluyó Vedal.
Imagen: Vedal987
pura y fisica mierda
Los periodistas deberían aprender a redactar mejor al referirse a las respuestas o creaciones de una IA. La IA a la que hace referencia el artículo no negó nada, simplemente se limitó a repetir lo que había en sus datos de entrenamiento, los cuales obviamente son de fuentes que niegan el holocausto.
La crítica real aquí debería ser los datos de entrenamiento que uso el programador a cargo…