Desde el año pasado las imágenes generadas a través de Inteligencia Artificial han sido tema de conversación. La novedad está en poder utilizar frases para crear, en segundos, un dibujo o fotos. Y a medida que más modelos como DALL-E o Midjourney han pulido su AI, más realistas se han vuelto estas piezas. Este fin de semana, sin embargo, una de estas imágenes se volvió viral y de paso demostró el peligro actual que tienen estos modelos AI: Papa Swagged.
La imagen muestra al Papa Francisco usando un abrigo de marca. Inicialmente la ‘foto’ se difundió como un meme, pero solo tomó un poco de tiempo antes de que algunas personas creyeran que se trataba de una verdadera fotografía y comenzaran a abrir un debate sobre las prioridades de la iglesia. De hecho, Twitter tuvo que agregar para antes del fin de semana una etiqueta indicando que se trataba de una fotografía falsa creada con Midjourney.
Por supuesto, los más detallistas encontrarán que hay muchos signos en Papa Swagged que indican que se trata de una imagen creada por AI. Por ejemplo, el crucifijo tiene ángulos extraños y se posiciona de manera rara encima del abrigo. El Jesús tampoco tiene buenos detalles y ni siquiera tiene brazos que se extiendan de manera correcta. La mano (que suele ser el talón de Aquiles de la AI) no tiene forma y tampoco podría sujetar el vaso de café con sus dedos inexistentes.
Y, sin embargo, como muchos han señalado es realista en el sentido de que a primera vista parece real. Algo importante, pues la experiencia con la información falsa nos ha demostrado que son pocas las personas que se toman el tiempo para analizar de manera crítica la información o piezas que encuentran en Internet. ¿Cuántos de ustedes verían una de estas fotos en una línea de tiempo en Twitter y la terminarían por confundir con algo que pudo haber pasado? ¿Cuántos se tomarían el tiempo de buscar las señales que indiquen que fue creada con AI?
Te puede interesar: Deepfake pornográfico: una (horrible) práctica que Facebook está impulsando
Para aquellos que llevamos un tiempo en el ‘rodeo’ de las redes sociales y la Internet el problema no es nuevo. Cuando comenzaron a popularizarse los deepfake (videos en los que gracias a software era posible ‘reemplazar’ el rostro de una persona en un video) las mismas inquietudes surgieron. ¿Están preparadas las redes sociales y las personas para aprender a diferenciar estas imágenes en los momentos más críticos?
Y la respuesta, por desgracia es que no: no lo estamos. Las elecciones más recientes comprobaron que las redes sociales no tienen los mecanismos para controlar estas piezas antes de que se hagan virales. Lo que se entiende. ¿Está la solución en prohibir las imágenes construidas en deepfake? Por supuesto que no. Otra solución asegura que este tipo de piezas deberían incluir algún tipo de ‘huella’ digital que las diferencie de las imágenes tradicionales, pero esta alternativa olvida la facilidad con la que se duplica el contenido en la Internet…
Por desgracia no parece haber una solución para este problema y, más importante, tampoco la intención por parte de los responsables por crear un sistema lo suficientemente robusto para evitar que las imágenes súper realistas creadas por AI terminen por pasar de los memes a una herramienta de información falsa que no podamos controlar.
Imagen: Midjourney
