ChatGPT, el popular chatbot de inteligencia artificial de OpenAI, ha sido objeto de un nuevo estudio que analiza su posible sesgo político; la investigación, publicada en el Journal of Economic Behavior and Organization, encontró que el modelo tiende a generar respuestas más alineadas con perspectivas progresistas en diversos temas políticos y sociales.
Los investigadores utilizaron un enfoque basado en cuestionarios políticos diseñados por el Pew Research Center. Los investigadores pidieron a ChatGPT que respondiera a preguntas de política pública desde la perspectiva de un estadounidense promedio, así como desde puntos de vista explícitamente de izquierda y derecha. Luego, compararon las respuestas generadas por la IA con datos de encuestas reales para evaluar su alineación política.
Los resultados mostraron que, en la mayoría de los casos, las respuestas del chatbot estaban más cercanas a la postura de los demócratas o liberales que a la de los conservadores o republicanos. Entre los temas donde más se evidenció esta tendencia estaban la igualdad racial, el papel del gobierno en la economía y los derechos de las personas transgénero.
Te puede interesar: Microsoft asegura que la IA está atrofiando la inteligencia humana, ¿un avance o una amenaza?
Además del análisis textual, los investigadores evaluaron el sesgo de ChatGPT en la generación de imágenes a través de DALL·E 3, el sistema de inteligencia artificial de OpenAI para la creación de contenido visual. Se encontró que las imágenes generadas desde una perspectiva de izquierda tenían mayor similitud con las imágenes “neutrales” que aquellas generadas desde una perspectiva de derecha.
Un hallazgo adicional fue que el modelo se negó a generar imágenes relacionadas con ciertos temas desde una perspectiva conservadora, mientras que no mostró restricciones similares para la visión progresista. Esto plantea preguntas sobre si las salvaguardas de la IA están diseñadas para limitar ciertos discursos más que otros.
¿Por qué ocurre este sesgo?
Los expertos sugieren que el sesgo de la inteligencia artificial podría deberse a múltiples factores. En primer lugar, el modelo fue entrenado con grandes volúmenes de texto tomados de internet, donde los medios de comunicación, instituciones académicas y plataformas tecnológicas pueden reflejar ciertas tendencias ideológicas.
Así mismo, las políticas de moderación de OpenAI buscan evitar la difusión de desinformación y discursos de odio, lo que podría estar influyendo en la forma en que responde a ciertos temas políticos.
El estudio reaviva el debate sobre la necesidad de transparencia y equilibrio en los modelos de IA que interactúan con el público. Si bien OpenAI ha enfatizado su compromiso con la neutralidad, este tipo de investigaciones pone en duda si es posible lograr una IA completamente imparcial.
Te puede interesar: Anthropic lanza estudio sobre efectos de la IA en los mercados laborales y busca científicos e ingenieros de investigación
Para abordar este desafío, los investigadores sugieren que las empresas de IA adopten estrategias más transparentes en la curación de datos y permitan a los usuarios personalizar el tono y la orientación ideológica de las respuestas generadas por los modelos. También proponen la implementación de auditorías externas que evalúen regularmente los sesgos en estos sistemas.
A medida que la inteligencia artificial se convierte en una herramienta clave en la difusión de información y la formación de opiniones, es crucial que estos sistemas sean diseñados para reflejar una diversidad de perspectivas, evitando la consolidación de un único punto de vista.
En definitiva, el sesgo en modelos como ChatGPT no es solo un tema técnico, sino una cuestión que impacta directamente en la confianza del público en la inteligencia artificial y en su papel en la sociedad digital del futuro.
Imagen: Generada con IA
