Desafortunadamente para las empresas como para los empleados, las herramientas de inteligencia artificial de última generación estarían causando que los correos electrónicos con intenciones de estafa sean cada vez más avanzados, más difíciles de detectar y significativamente más peligrosos.Según, una investigación publicada a principios de este año mostró que el 60% de los participantes fueron víctimas de phishing automatizado mediante inteligencia artificial (IA), que es comparable a las tasas de éxito de mensajes de phishing sin IA creados por expertos humanos. Lo realmente preocupante de la investigación es que demuestra que todo el proceso de phishing se puede automatizar mediante el lenguaje LLM, lo que reduce los costos de los ataques de phishing en más del 95 % y al mismo tiempo logra tasas de éxito iguales o mayores.
¿Conoces las etapas del phsiping?
El phishing tiene cinco fases distintas: recopilar objetivos, recopilar información sobre los objetivos, crear correos electrónicos, enviar correos electrónicos y, finalmente, validar y mejorar los correos electrónicos. Con la capacidad de generar texto similar a un humano y conversar de manera coherente, se pueden utilizar modelos de lenguaje grandes (LLM), como ChatGPT y Claude, para automatizar cada fase.Los correos electrónicos de phishing a menudo aprovechan momentos sensibles y juegan con un sentido de urgencia, como instar al usuario a actualizar una contraseña. Debido a esto, expertos aseguran que el phishing aumente drásticamente en calidad y cantidad en los próximos años. El nivel de amenaza varía según las industrias, organizaciones y equipos.
¿Se podrá usar la IA para detectar el phishing?
La única diferencia real entre un correo electrónico legítimo y un correo electrónico de phishing es la intención detrás del mismo, lo que hace que la detección sea difícil, pero no imposible. Para probar cómo la IA genética puede afectar las capacidades defensivas, se utilizan cuatro LLM populares (GPT-4, Claude 2, PaLM y LLaMA) para identificar el phishing y proporcionar acciones recomendadas al destinatario. Los hallazgos iniciales ya indican que los LLM pueden ser útiles para detectar y prevenir correos electrónicos de phishing, siempre que se utilicen correctamente.Aunque algunos modelos de lenguaje son buenos para detectar correos electrónicos de phishing, su rendimiento varía significativamente para diferentes correos electrónicos. Ciertos modelos (en particular, Claude) descubrieron correctamente intenciones maliciosas incluso en correos electrónicos de phishing no obvios, superando en ocasiones las tasas de detección humana.
Preparación de las empresas para evitar el phishing
Muchos son los líderes empresariales preocupados por el bombardeo constante de los ataques de phishing mediante IA, por lo que se recomiendan tres puntos de control:1 – Comprenda las capacidades asimétricas del phishing mejorado por IA.2 – Determine el nivel de gravedad de la amenaza de phishing de la empresa o división.3 – Confirme sus rutinas actuales de concientización sobre phishing.La inteligencia artificial, y los LLM en particular, están mejorando significativamente la gravedad de los ataques de phishing, y podemos esperar un fuerte aumento tanto en la calidad como en la cantidad de phishing en los próximos años. Cuando se dirige a usuarios humanos, la IA beneficia desproporcionadamente a los atacantes al hacer que sea más fácil y rentable explotar las vulnerabilidades psicológicas que defender y educar a los usuarios. Los gerentes deben clasificar correctamente el nivel de amenaza de su organización y departamento para tomar las medidas adecuadas. Al concienciar a los empleados sobre esta amenaza emergente y equiparlos para evaluar con precisión el riesgo para ellos y su organización.
¿Te gustaría aprender sobre los aportes de la IA al mundo?
Si tu respuesta es afirmativa, entonces Holberton Coderise tiene el programa perfecto para ti. Durante el programa recibirás capacitación en las principales tecnologías y teorías que dominan el mundo. Expertos en Machine Learning de las principales empresas y startups del mundo crearon junto a Holberton el mejor programa posible para potenciar tu talento.
Imágenes:
