Los abusadores infantiles utilizan la IA generativa para explotar sexualmente; impidiendo la identificación de las víctimas, creando nuevos fraudes para revictimizar y generando demanda de imágenes violatorias. Por esto; Microsoft, Google, Meta y OpenAI han tomado una decisión contundente, ¿cómo combatirán este flagelo?
La Digital Defenders of Children – Thorn, organización internacional contra la trata de personas y la explotación sexual de niñas y niños, lidera la alianza de All Tech Is Human, Microsoft, Google, Meta y OpenAI; para forjar principios de IA generativa que promulguen compromisos sólidos sobre seguridad infantil.
No es un secreto que la La IA generativa se puede utilizar para explotar sexualmente a niños de muchas maneras.
Te puede interesar: Solo viendo tu rostro esta IA adivina tu orientación política: ¿qué tan amenazante es esto?
Impedir los esfuerzos para identificar a los niños víctimas. La identificación de las víctimas ya es un problema de aguja en el pajar para las fuerzas del orden: examinar enormes cantidades de contenido para encontrar al niño en peligro activo. La creciente prevalencia de AIG-CSAM sólo aumenta ese pajar, haciendo más difícil la identificación de las víctimas.
Crear nuevas formas de victimizar y revictimizar a los niños. Los malos actores ahora pueden generar fácilmente nuevo material de abuso de niños y/o sexualizar imágenes benignas de un niño. Hacen que estas imágenes coincidan con la imagen exacta de un niño en particular, pero producen nuevas poses, actos y contenido atroz, como violencia sexual. Los depredadores también utilizan IA generativa para escalar los esfuerzos de acicalamiento y sextorsión.
Te puede interesar: ¿Cómo saber si un texto fue generado por ChatGPT? Estos adjetivos y metáforas los delatan
Generar más demanda de material sobre abuso sexual infantil. La creciente prevalencia de AIG-CSAM desensibiliza a la sociedad ante la sexualización de los niños y aumenta el apetito por el CSAM. Las investigaciones indican un vínculo entre la participación en este tipo de material y los delitos de contacto, donde la normalización de este material también contribuye a otros resultados perjudiciales para los niños.
Permitir el intercambio de información entre depredadores sexuales infantiles. Los modelos de IA generativa pueden proporcionar a los malos actores instrucciones para el abuso sexual práctico de un niño, información sobre coerción, detalles sobre la destrucción de pruebas y la manipulación de artefactos de abuso, o consejos para garantizar que las víctimas no lo revelen.
Por todos estos malos usos para revictimizar a los niños, los gigantes tecnológicos se comprometieron públicamente con los principios de Safety by Design. Estos principios protegen contra la creación y difusión de material de abuso sexual infantil generado por IA (AIG-CSAM) y otros daños sexuales contra niños.
Con este anuncio, firman un precedente innovador para la industria y representan un salto significativo en los esfuerzos para defender a los niños del abuso sexual a medida que se desarrolla un futuro con IA generativa.
Como parte de su compromiso con los principios, las empresas también acuerdan publicar y compartir de forma transparente documentación de su progreso actuando según los principios.
Te puede interesar: Meta AI anuncia mejora con ampliación de datos de entrenamiento Llama 3, abarcando más de 30 idiomas
Al integrar los principios de Safety by Design en sus tecnologías y productos de IA generativa, estas empresas no solo protegen a los niños sino que también lideran la innovación ética en IA.
En 2023, se reportaron más de 104 millones de archivos de sospecha de contenido de abuso en los Estados Unidos. Esta AI utilizada nefastamente, plantea riesgos significativos para un ecosistema de seguridad infantil que ya está sobrecargado, exacerbando los desafíos que enfrentan las fuerzas del orden para identificar y defender a las víctimas.
Imagen:Pranithan Chorruangsak
