Durante el Foro de Seguridad de Aspen, se presentó la Coalición para una IA Segura (CoSAI). Esta iniciativa, organizada por la entidad global de normalización OASIS, busca proporcionar a los desarrolladores y profesionales las herramientas y guías necesarias para crear sistemas de inteligencia artificial (IA) seguros desde su concepción. CoSAI se enfoca en fomentar un entorno colaborativo donde se comparten metodologías, marcos estandarizados y herramientas de código abierto para mejorar la seguridad de la IA.
CoSAI reúne a una diversidad de actores, entre ellos líderes de la industria, académicos y expertos en seguridad, para enfrentar el fragmentado panorama actual de la seguridad en IA.
Entre los principales patrocinadores se encuentran grandes nombres como Google, IBM, Intel, Microsoft, NVIDIA y PayPal, junto con Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI y Wiz.
Te puede interesar: OpenAI sorprende con GPT-4o mini, el nuevo modelo barato para desarrolladores
El objetivo central de CoSAI es incrementar la confianza y la seguridad en el uso y la implementación de la IA. Su trabajo abarca desde la creación hasta la operación segura de sistemas de IA, con especial atención en mitigar riesgos como el robo de modelos, el envenenamiento de datos y los ataques de inferencia. La coalición se propone desarrollar medidas de seguridad integrales que respondan a los riesgos tanto tradicionales como específicos de los sistemas de IA.
Funcionando como una comunidad de código abierto, CoSAI estará dirigida por una Junta Directiva del Proyecto y un Comité Directivo Técnico, compuesto por expertos en IA del ámbito académico y la industria. Estos grupos serán responsables de supervisar los flujos de trabajo y asegurar el avance de la agenda técnica.
La creación de CoSAI surge de la necesidad urgente de unificar y estandarizar las prácticas de seguridad en IA. Actualmente, proteger estos sistemas es una tarea dispersa, con desarrolladores enfrentando una variedad de directrices y estándares inconsistentes, lo que complica la evaluación y mitigación de riesgos específicos de la IA, incluso para organizaciones experimentadas.
Te puede interesar: AWS lanza plataforma para crear apps empresariales en minutos: para profesionales sin saber de software
David LaBianca, copresidente del Consejo de Administración de CoSAI en Google, destacó la importancia de democratizar el conocimiento y los avances en seguridad de la IA. Por su parte, Omar Santos, copresidente de la Junta Directiva de Cisco, subrayó la necesidad de eliminar redundancias y amplificar el impacto colectivo mediante asociaciones clave centradas en la seguridad.
En su fase inicial, CoSAI formará tres grupos de trabajo: uno enfocado en la seguridad de la cadena de suministro de software para IA, otro en la preparación de defensores ante el cambiante panorama de ciberseguridad, y un tercero en la gobernanza de la seguridad de la IA. La coalición invita a todos los interesados a contribuir a esta iniciativa, y aquellos que deseen participar pueden contactarse a través del correo [email protected].
Con su enfoque colaborativo y el apoyo de líderes de la industria, CoSAI promete ser un actor clave en la creación de un ecosistema de IA seguro y confiable.
Imagen: CoSAI
