La Organización de las Naciones Unidas (ONU) lanzó un informe titulado “Governing AI for Humanity”, publicado en septiembre de 2024. Este documento se enfoca en la necesidad urgente de una gobernanza internacional de la IA para garantizar que sus beneficios se distribuyan equitativamente y que sus riesgos se mitiguen de manera efectiva.
El informe de la ONU explica que la IA tiene el potencial de transformar radicalmente sectores como la salud, la educación, la energía y la agricultura. Al optimizar procesos y abrir nuevas áreas de investigación científica, la IA podría ayudar a acelerar el progreso hacia los Objetivos de Desarrollo Sostenible (ODS) de la ONU. Sin embargo, la ONU también advierte que este potencial no se distribuirá de manera uniforme si no se implementan medidas de gobernanza global.
Te puede interesar: IA genera gran cantidad de CO2 para energizarse; ¿cómo mitigar la amenaza ambiental?
Uno de los principales problemas que menciona el informe es la creciente brecha digital entre los países desarrollados y en desarrollo. Mientras que un pequeño grupo de naciones, empresas e individuos pueden beneficiarse enormemente de la IA, muchas comunidades podrían quedarse atrás debido a la falta de acceso a recursos y tecnologías avanzadas.
¿Qué riesgos plantea la ONU?
El informe también aborda los riesgos inherentes a la IA. Entre los problemas más alarmantes se encuentran los sesgos de los algoritmos, que pueden perpetuar la discriminación; la vigilancia masiva, que pone en peligro la privacidad; y la creación y difusión de desinformación a través de tecnologías como los modelos de lenguaje avanzados.
Otro riesgo importante es el impacto de la IA en la paz y la seguridad global. El uso de IA en armas autónomas plantea preguntas legales y éticas sobre la toma de decisiones en conflictos armados. Además, la energía necesaria para ejecutar sistemas de IA es significativa, lo que genera preocupaciones sobre el aumento de las emisiones de carbono en un momento crítico para la crisis climática.
En tanto a la brecha de la gobernanza, según la ONU, el principal desafío para enfrentar estos riesgos es la falta de una gobernanza internacional efectiva. Aunque existen numerosos marcos éticos y guías sobre el uso de la IA, su aplicación ha sido desigual. Esto ha dejado grandes vacíos, especialmente en los países del sur global, que a menudo son excluidos de las conversaciones sobre IA.
¿Qué propone la organización?
El informe de la ONU propone varias soluciones para mejorar la gobernanza de la IA a nivel global. Una de sus recomendaciones clave es la creación de un panel científico internacional que reúna a expertos de todo el mundo para compartir conocimientos y emitir informes regulares sobre las capacidades, riesgos y oportunidades de la IA. Además, se sugiere el establecimiento de un fondo global de IA para garantizar que todos los países tengan acceso a las herramientas y recursos necesarios para beneficiarse de la tecnología.
Te puede interesar: “Riesgos catastróficos” de la IA según científicos; ¿qué harán gobiernos para protegernos?
La ONU también aboga por un enfoque inclusivo que permita la participación de múltiples partes interesadas, incluidas empresas, gobiernos y la sociedad civil. Este enfoque colaborativo es crucial para evitar la fragmentación de los esfuerzos regulatorios y garantizar que las normas de la IA se alineen con los derechos humanos y los valores compartidos.
El informe concluye con un llamado a la acción urgente. La ONU insiste en que la gobernanza de la IA no puede quedar en manos del mercado o de un pequeño grupo de países. En su lugar, propone la creación de una oficina de IA dentro de la Secretaría de la ONU, que actúe como coordinadora de los esfuerzos globales para regular esta tecnología de manera inclusiva y responsable.
Imagen: Archivo ENTER.CO
