Demis hassabis, CEO Google DeepMind, Sam Altman, CEO OpenAI, creador de ChatGPT y Nancy Chang, investigadora científica de Google, son algunas de las personalidades que firmaron una carta para alertar sobre los peligros de la inteligencia artificial.
La misiva fue firmada por 350 ejecutivos, investigadores e ingenieros expertos en esta tecnología. A los firmantes sólo les fue suficiente 22 palabras para expresar su preocupación.
Dicha publicación la hicieron este martes a través del Centro para la Seguridad de la IA, una organización sin fines de lucro.
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”, reseña la misiva.
El encabezado de dicha publicación señala que “expertos de la IA, periodistas, legisladores y el público están discutiendo cada vez más un amplio espectro de riesgos importantes y urgentes de la IA. Aun así, puede ser difícil expresar inquietudes sobre algunos de los riesgos más graves de la IA avanzada”.
Por eso, la declaración sucinta tiene como objetivo “superar este obstáculo y abrir la discusión”. También está destinado a crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio algunos de los riesgos más graves de la IA avanzada”.
Te puede interesar: Le ‘caerá’ la ley a la inteligencia artificial ¿Qué planea la UE?
Esta no es la primera vez que líderes alzan su voz para señalar los posibles riesgos de la inteligencia artificial. Recordemos que hace algunos meses más de mil expertos firmaron una carta, solicitando frenar la inteligencia artificial por ser una amenaza para la humanidad. Según los argumentos, ni siquiera los creadores de las IA pueden comprender, predecir o controlar estas “mentes poderosas”.
Los poderosos sistemas de inteligencia artificial, según los líderes tecnológicos, pueden generar información errónea y reemplazar los trabajos con automatización.
Entre los autores de la carta está el director de Tesla, Elon Musk, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de la firma Stability AI, Emad Mostaque, además de investigadores de la firma DeepMind.
Cabe notar que Elon Musk fue cofundador de OpenAI, pero renunció a la junta directiva de la organización.
En la misiva abierta, el grupo de expertos en inteligencia artificial y ejecutivos de la industria tecnológica, piden una para en el entrenamiento de los poderosos sistemas de inteligencia artificial: “se trata de una potencial amenaza para la humanidad. Pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4”.
Algo que llama la atención de esta última carta de 22 palabras es que son los mismos creadores de ChatGPT, la IA más poderosa conocida hasta hoy, quienes están alertando sobre los riesgos de esta tecnología.
Por ahora, la Unión Europea (UE) ya trabaja en una ley para regular la creación y uso de productos con IA. Se llama Ley de Inteligencia Artificial (AIA), y busca promover un uso responsable y ético de esta nueva tecnología, tanto para desarrolladores como para usuarios finales.
Imagen: Alexandra_Koch
