ChatGPT: ¿lo que no sabe se lo inventa? “No es inteligente, es peligroso”

ChatGPT genera tal controversia entre investigadores de Inteligencia Artificial (AI), que el director del Centro de Lenguaje Infantil de la Universidad de Nueva York y autor del libro ‘Rebooting AI’, ha alertado sobre el peligro de la desinformación a la que se someterían los estudiantes por cuenta del nuevo chatbot.

El estadounidense Gary Marcus es Ph.D. Ciencias cognitivas en el Instituto de Tecnología de Massachusetts. Fue becario del Center for Advanced Study in the Behavioral Sciences, actualmente es profesor en el Departamento de Psicología de la Universidad de Nueva York y director del NYU Center for Child Language.

Con 52 años, es un investigador y pensador con voz autorizada para hablar de Inteligencia Artificial (AI) por cuenta de varias publicaciones sobre el tema, entre ellas los libros ‘Reinicio de la IA: creación de una inteligencia artificial en la que podamos confiar’ (2019) y ‘El futuro del cerebro: ensayos de expertos del mundo’ (2014).

Y un dato muy importante, Marcus ha fundado dos empresas de Inteligencia Artificial, después compradas por Uber. Con respecto a ChatGPT, el nuevo sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3, desarrollado por la empresa OpenAI, el experto ha sido muy crítico.

Te puede interesar: La Inteligencia Artificial de Google que dice ser tan eficiente como un programador promedio

Según Marcus, suponer que ChatGPT es una revolución en la educación y que los alumnos podrán crear trabajos de 10, en segundos es un engaño. “Los colegios e institutos tienen un problema. No sé si hablamos de ensayos y trabajos que puedan obtener un sobresaliente, muchos de los resultados de ChatGPT tienen errores y son superficiales, pero siempre puedes coger el texto que te da la IA en bruto y añadirle cosas, corregirlo, etc”.

En cuanto al cambio y al apoyo que significará para los alumnos afirmó: “Desde luego, va a cambiar cómo los estudiantes hacen sus deberes y escriben sus trabajos y va a hacer imposible evaluar lo que de verdad el alumno entiende y sabe sobre un tema en una tarea para realizar en casa”.

Para muchos expertos ChatGPT un gran avance, para Gary Marcus, como poner a “monos delante de un teclado”. Citando a Noam Chomsky, el pensador norteamericano cumplió justo este miércoles 94 años, una IA muy similar a ChatGPT le daba por muerto, con fecha de fallecimiento incluida, 28 de diciembre de 2020.

Te puede interesar: ChatGPT, la nueva tecnología de Inteligencia artificial que superaría a Alexa y Siri

Marcus considera esta desinformación algo notorio: “Conozco a Noam, así que le escribí, supuse que le parecería gracioso. Me respondió de vuelta: ¡Estoy muy vivo! Lo más desconcertante es que la IA se había inventado hasta obituarios publicados en el NYT. Técnicamente, a esto le llamamos alucinaciones, y ChatGPT no se libra”.

Marcus ha tenido fuertes diferencias dialécticas con el francés Yann LeCun, jefe de IA en Meta y el gran visionario mundial en esta materia, ganador en 2018 del equivalente al Nobel en IA, el Turing Award, y Premio Princesa de Asturias este año. “Es un mentiroso, solo quiere desacreditarme porque muchas de las cosas que dice él ahora las avancé yo primero”.

LeCun lidera una escuela de pensamiento que ve en herramientas como ChatGPT, creadas a base de agregar billones y billones de datos, la antesala a sistemas que razonen como las personas, lo que se denomina inteligencia artificial general (AGI, en sus siglas en inglés).

Sin embargo, Marcus sostiene que ChatGPT no es el camino a seguir para lograr máquinas inteligentes. “Es divertido, te entretienes un rato, pero es como poner a un mono delante de un teclado”.

Su escepticismo viene desde mucho antes. Después que Zuckerberg tuviera que desconectar Galáctica a los tres días de lanzado y a Microsoft le pasara algo parecido en 2016 con Tay; Marcus ahora azota al muy promocionado ChatGPT: “Funciona mejor, va a tener un impacto en la sociedad, pero tenemos el mismo problema: es un sistema peligrosamente estúpido”.

Es realista en aceptar que el software ha logrado la atención de millones de personas pero argumenta “no lo veo tan diferente de lo que se venía haciendo. Es mejor que la versión anterior, GPT-3, esta no dice tantas cosas ridículas y peligrosas, pero todavía tiene muchos de los mismos problemas que sus predecesores. Lo que desde luego ha sido mejor es el marketing y se ha hecho viral, pero técnicamente no es ningún cambio. GPT-3 ya era muy popular, esto es simplemente una versión algo más pulida”.

Te puede interesar: Si hay vida inteligente en el universo, ¿la vamos a encontrar?

En entrevista con el portal español El Confidencial, Marcus también le da el crédito al libre acceso a la tecnología, que tuvo vetos con estos desarrollos en el pasado “Esta ocasión, han dejado que cualquiera pueda entrar desde el inicio. Es divertido trastear con ello pero, cualitativamente no es tan diferente de lo que ya existía. La gran diferencia son las fronteras que han puesto para evitar que preguntes cosas ilegales, sexistas, racistas… Eso es nuevo, todo lo demás no”.

También pone límites a las comparaciones con otros avances de la ciencia como la aparición del iPhone en la industria del móvil o el aterrizaje en la Luna para la exploración espacial: “No es un aterrizaje en la Luna en lo que se refiere a lograr inteligencia artificial general (AGI).

Te puede interesar: Así fue el regreso de la nave espacial Orion a la Tierra

Así mismo se pone el lugar de los usuarios: “no es fácil distinguir cuán inteligente es uno de estos sistemas, pero ChatGPT no soluciona ninguno de los problemas básicos que se llevan intentando resolver durante años para conseguir AGI. Primero, no es muy fiable, para una misma pregunta, a veces da información correcta, otras veces no. Segundo, tiene el problema que en IA llamamos alucinaciones, se inventa información y no hay ninguna señal que avise de que se está inventando algo. Inventa incluso referencias bibliográficas. Cuando hablamos de AGI, hablamos de un sistema que está limitado por la realidad, y ChatGPT no lo está”.

Referente al funcionamiento de ChatGPT, Marcus aduce un claro problema de confabulación: “Funciona agrupando palabras y frases que ha visto antes y tiene almacenadas, pero no entiende el significado de lo que muestra. Por ejemplo, si lo usas para generar mi biografía, acierta algunas cosas y otras no, pero solo lo sabrás si de verdad conoces mi vida”.

Te puede interesar: Inteligencia Artificial compra y arrienda casas. ¿Fin de las inmobiliarias?

Pero la mayor preocupación del académico es la desinformación que este programa sembraría en las nuevas generaciones: “La más inmediata es escribir trabajos escolares. Pero mi mayor preocupación es la desinformación, creo que va a acelerar de forma dramática la velocidad a la que se va a producir la desinformación. Se va a usar para propaganda, para hacer páginas web falsas y engañar a la gente”.

Finalmente, el autor de ‘Kluge: La evolución de la mente humana’, calificó el nivel de amenaza o peligrosidad de ChatGPT: “Hay un significado técnico detrás de IA potente, que es el de inteligencia artificial general, un sistema que puede razonar por sí mismo y entender el mundo. Creo que estamos muy lejos de eso. Que ChatGPT sea peligroso es diferente de que sea una IA potente. Si acaba siendo peligroso o no va a depender de a qué sistema se conecte. Si conectas algo así a la red eléctrica o a un arma, evidentemente, se convierte en una amenaza. El peligro de un sistema así puede venir de cuán inteligente es pero también del poder que se le otorga. Si ChatGPT lleva a una persona ingenua a creer que es inteligente cuando no lo es, ese en sí es el peligro”.

Imagen: Pixaby