Uno de los puntos más criticados de la inteligencia artificial es la seguridad humana, pues ya hemos visto cuáles son los algunos de los alcances de esta tecnología. Aunque la Unión Europea ya aprobó una ley para la inteligencia artificial, los esfuerzos por reglamentarla son aún mínimos. Ilya Sutskever, cofundador y ex jefe científico de OpenAI, parece tener la solución. Sutskever, quien se retiró de OpenAI hace apenas unas semanas, anunció la creación de una nueva empresa de inteligencia artificial. La compañía fue bautizada con el nombre de Safe Superintelligence (SSI), un nuevo laboratorio de IA liderado por el cofundador de OpenAI, Daniel Levy, ex investigador de OpenAI y Daniel Gross, inversionista. El construir una inteligencia artificial segura no es una idea del todo nueva para Sustskever y otros investigadores. Cuando aún trabajaba con OpenAI, el antiguo jefe científico conformó un equipo para estudiar sistemas de superinteligencia. Mientras tanto, a Ilya Sutskever le preocupaba que los modelos GPT-4 y GPT-5 terminaran siendo herramientas inseguras debido al enfoque comercial. Ambas posturas molestaron a Sam Altman, quien ha estado de acuerdo con las alianzas que ha hecho OpenAI.
Te puede interesar: ¿Temor a perder? Elon Musk retira la demanda que había presentado contra OpenAI
“Hemos puesto en marcha el primer laboratorio SSI del mundo, con un objetivo y un producto: una superinteligencia segura”, escribieron en la entrada de presentación de Safe Superintelligence. “Abordamos la seguridad y las capacidades en conjunto, como problemas técnicos que deben resolverse mediante ingeniería revolucionaria y avances científicos”.Los fundadores de esta nueva compañía de la super inteligencia artificial están convencidos de crear una IA realmente segura, algo que lograrán al dejar de lado el enfoque comercial. “Nuestro enfoque singular significa que no hay distracciones por gastos generales de gestión o ciclos de productos, y nuestro modelo de negocio significa que la seguridad, la protección y el progreso están todos aislados de las presiones comerciales a corto plazo”.La compañía anunció estar buscando a los mejores ingenieros e investigadores. Imagen: charlas TED
