La empresa de inteligencia artificial implementará estrategias para que su tecnología no se utilice para socavar en los procesos electorales de 2024. OpenAI trabajará en la seguridad de la plataforma a través de políticas para mejorar la transparencia en tanto a la generación de información precisa.
“Tenemos un esfuerzo multifuncional dedicado al trabajo electoral, reuniendo la experiencia de nuestros sistemas de seguridad, inteligencia de amenazas, equipos legales, de ingeniería y de políticas para investigar y abordar rápidamente posibles abusos”, explica en un comunicado.
¿Cómo lo hará?
Por una parte OpenAI está trabajando para anticipar y prevenir abusos relevantes, como “deepfakes” engañosos, operaciones de influencia a escala o chatbots que se hacen pasar por candidatos. Para esto lanzará nuevas herramientas que proporcionan una base sólida en torno a la integridad electoral; por ejemplo, DALL·E tiene barreras de seguridad para rechazar solicitudes que soliciten la generación de imágenes de personas reales, incluidos los candidatos”.
También no se permitirá a los desarrolladores crear chatbots que pretendan ser personas reales, como candidatos, instituciones o un gobierno local. “No permitimos aplicaciones que disuadan a las personas de participar en procesos democráticos, por ejemplo, tergiversando los procesos y las calificaciones de votación”.
Te puede interesar: Microsoft lanza Copilot Pro, una versión paga de su IA: Esto cuesta
Otros de los objetivos de OpenAI es generar una mayor transparencia en torno a la procedencia de las imágenes. “Estamos trabajando en varios esfuerzos de procedencia”, asegura la compañía. A principios de este año, implementó credenciales digitales para las imágenes generadas por DALL·E 3.
Por otra parte, están experimentando con un clasificador de procedencia, una nueva herramienta de detección de imágenes generada por DALL·E. “Nuestras pruebas internas han mostrado resultados iniciales prometedores, incluso cuando las imágenes han estado sujetas a tipos comunes de modificaciones”, explica.
Esta herramienta se lanzará pronto para un primer grupo de evaluadores incluidos periodistas, plataformas e investigadores, para recibir comentarios.
Por último, OpenAI está integrando a ChatGPT más fuentes de información existentes; por ejemplo, los usuarios comenzarán a tener acceso a informes de noticias en tiempo real a nivel mundial, incluidas atribuciones y enlaces.
Asimismo, ChatGPT dirigirá a los usuarios a CanIVote.org, el sitio web autorizado sobre información electoral en EE. UU., cuando se les hagan ciertas preguntas de procedimiento relacionadas con las elecciones, por ejemplo, dónde votar.
Imagen: Archivo ENTER.CO
