La inteligencia artificial ha traído varios beneficios como la escritura de textos en tiempo récord, generación de video y otras funciones de automatización. Pero, aunque esta tecnología llegó para hacer más fácil la vida de los consumidores, también trae consigo ciertos riesgos. Incode Technologies, compañía dedicada a las soluciones de identidad digital y seguridad, advierte sobre cinco riesgos críticos que la inteligencia artificial generativa (IA generativa) podría traer a Colombia en términos de fraude.
Con el crecimiento exponencial del uso de la IA generativa, Colombia enfrenta nuevos desafíos que podrían comprometer la confianza pública, la seguridad de las transacciones y la integridad de las instituciones. Según el Informe del índice de Inteligencia de Amenazas X-Force de IBM 2024, el 71% de los delitos informáticos son por explotación de identidad y Colombia es el segundo país de América Latina más afectado con un 17% de los casos.
Incode Technologies, identificó algunos riesgos críticos en materia de fraude con IA Generativa que pueden afectar a Colombia:
Deepfakes de video y audio: la creación de vídeos y audios falsos hiperrealistas puede manipular la opinión pública, desinformar a las audiencias y extorsionar a personas y empresas. En un entorno de ciudades inteligentes, donde la integración digital es clave, estos fraudes pueden socavar la confianza en las plataformas de comunicación y seguridad pública.
Phishing y suplantación de identidad automatizados: la IA generativa permite crear correos electrónicos, mensajes de texto y publicaciones en redes sociales extremadamente realistas, engañando a los ciudadanos y entidades públicas para obtener información personal o financiera. Este tipo de fraude sofisticado podría amenazar la infraestructura digital de las ciudades inteligentes, que depende de la confianza en la interacción digital segura.
Te puede interesar: Hablar con animales y personas muertas: así evolucionará la IA en los próximos años
Difusión de noticias falsas y manipulación de información: la generación de noticias falsas con IA puede afectar la estabilidad social y política, y manipular mercados financieros. En un contexto de ciudades inteligentes, donde la información en tiempo real es vital, la desinformación podría paralizar operaciones críticas, desde la gestión del tráfico hasta la respuesta a emergencias.
Falsificación de documentos y trámites públicos: la IA generativa puede ser utilizada para crear documentos falsos que imitan a los legales y oficiales, comprometiendo la seguridad de los sistemas financieros y de gobernanza digital. Esto podría afectar la eficiencia y seguridad de los trámites en las ciudades inteligentes, reduciendo la confianza en las plataformas gubernamentales digitales.
Manipulación de identidades digitales y engaños en sistemas automatizados: la creación de identidades digitales falsas y la suplantación de perfiles en servicios públicos o privados pueden desencadenar fraudes masivos en plataformas de servicios de ciudades inteligentes, desde la atención en salud hasta el transporte público. Esta manipulación puede afectar la credibilidad de los sistemas basados en IA, como los que gestionan la seguridad y el flujo de información en tiempo real.
De acuerdo con el análisis de X-Force, durante el 2023 los sectores más afectados en América Latina fueron retail, finanzas y seguros, con un 25% cada uno. Además, la inversión de los atacantes en operaciones para obtener identidades de usuarios a nivel mundial aumentó en un 266%. Esto añadido a la falta de soluciones adecuadas y pruebas de resistencia de las cuales carecen las organizaciones en sus sistemas tecnológicos.
Imagen: Sora Shimazaki
