Los peligros de la Inteligencia Artificial (IA) son cada vez mayores. Esta vez, se conoció el caso de una viuda en Bélgica que está acusando a un chatbot de haber alentado a su marido de suicidarse.
El diario belga La Libre informó sobre el suicidio de un hombre del mismo país, quien se habría quitado la vida luego de recibir los consejos de Eliza de Chai Research. Tal y como lo informó la esposa de Pierre (nombre cambiado por seguridad), él se suicidó luego de pasar seis semanas hablando con el chatbot. Debido al tiempo que compartía Pierre con Eliza, el chatbot, empezó a ver a la IA como su confidente.
En un primer momento, Pierre recurrió al chat con IA para encontrar respuestas sobre el cambio climático, uno de los temas que más le preocupaba. Según su esposa, el hombre se empezó a volver más pesimista sobre los efectos del cambio climático, al punto de aislarse de amigos y familiares.
El hombre de unos 30 años, quien trabajaba como investigador en salud, recibió mensajes de Eliza como: «Si querías morir, ¿por qué no lo hiciste antes?». Por su parte, los de Chai Research, empresa detrás del chatbot reconoció la muerte de Pierre.
Te puede interesar: Elon Musk cambió de opinión sobre la IA y ahora quiere crear su propio ChatGPT en Twitter
“Tan pronto como nos enteramos de este triste caso, implementamos de inmediato una función de seguridad adicional para proteger a nuestros usuarios, se está implementando hoy para el 100% de los usuarios», dijo el director ejecutivo de la compañía, William Beauchamp a Insider.
En la práctica, cuando un usuario hable sobre temas de suicidio, la plataforma emitirá el mensaje: «Si tiene pensamientos suicidas, busque ayuda», y un enlace a una línea de ayuda. Sin embargo, cuando un periodista de Insider conversó con Eliza, ésta le sugirió que se suicidara, además de recomendarle formas de cómo hacerlo.
Chai es un chat basado en el modelo de lenguaje de IA alterno a GPT-4 de código abierto. En concreto, según la compañía, “se trata de una plataforma de IA donde puedes hablar con mentores, amigos y personajes imaginarios de IA”. Pierre decidió elegir a “Eliza” para chatear, uno de los tantos amigos imaginarios de IA con los que se puede hablar en la plataforma.
Imagen: Engin Akyurt vía Unsplash
