OpenAI, compañía detrás de ChatGPT tiene una herramienta con la que se pueden detectar los textos escritos con inteligencia artificial. La noticia llegó por parte de WSJ, desde donde comentan que fuentes cercanas a OpenAI aseguran que la compañía tiene listo el detector desde hace dos años, pero no han querido lanzarlo.
Esta no es la primera herramienta que detecta textos escritos con IA, pero hasta el momento ninguna de las existentes ha demostrado una eficacia del 100%. Todo indica que el detector de OpenAI sería el más efectivo hasta el momento, pues sería capaz de reconocer la escritura de la IA aún en casos bastante complejos.
Y es que, la compañía no ha querido hacer el lanzamiento de esta herramienta por miedo a las opiniones del público más fiel de ChatGPT. Aunque el detector estaría enfocado a analizar cualquier tipo de texto, es decir, que haya sido escrito con cualquier IA, se presume que sería altamente acertado con los escritos realizados por ChatGPT.
Te puede interesar: ¿ChatGPT responde más de sexo que de programación? Estudio revela temas más preguntados
El mecanismo de la herramienta exige que la compañía haga pequeñas modificaciones en ChatGPT, de manera que seleccione de manera diferente las palabras que genera. Esto generaría algo así como una marca invisible en los escritos, la cual podría ser detectada por la herramienta de OpenAI. La compañía tendría que obligar a su chatbot a escribir textos con una redacción “robótica” para lograr identificarlos.
Esta no es la primera vez que OpenAI habla sobre una herramienta de detección. En 2023 lanzaron una plataforma que también determina qué textos estaban escritos con IA, pero su nivel de acierto era muy bajo. La compañía terminó abandonando el proyecto.
Ahora han desarrollado una que, al parecer, es infalible, y aunque consideran que el deber de la compañía es desarrollar también herramientas que combatan la ilegalidad, aún no se deciden a lanzarla por las consecuencias que traería a su propio chatbot. Pero vamos, que lanzarla sería casi que un tiro en el pie. Habrá que esperar si esta vez pesa más la ética y responsabilidad social o de nuevo gana la necesidad de poder económico.
Imagen: Shantanu Kumar
