La seguridad informática enfrenta un desafío sin precedentes: la aparición del primer malware diseñado específicamente para engañar a las herramientas de seguridad basadas en Inteligencia Artificial (IA). Esta técnica emergente, conocida como AI Evasion, marca el inicio de una nueva era en la evolución del software malicioso.
Según un comunicado de la empresa tecnológica Check Point y su división de Inteligencia de Amenaza, han descubierto un código malicioso que incluye instrucciones en lenguaje natural destinadas a manipular modelos de IA para que clasifiquen erróneamente el archivo como inofensivo. Aunque en esta ocasión el intento de evasión falló, este hallazgo representa una señal clara de cómo los atacantes están adaptando sus tácticas ante la creciente integración de la IA en los flujos de análisis y detección de amenazas.
Técnica de «Prompt Injection»
La técnica utilizada por este malware se conoce como prompt injection. Consiste en intentar «hablar» directamente con el modelo de IA, manipulando sus procesos para forzar un diagnóstico erróneo y, potencialmente, permitir la ejecución de código malicioso.
Según los expertos, esta muestra de malware representa los primeros pasos de una nueva categoría de amenazas. Es previsible que las técnicas de AI Evasion se perfeccionen rápidamente, aprovechando las vulnerabilidades y matices de los sistemas basados en modelos de lenguaje (LLM).
Anticiparse a la Evolución de las Amenazas
El uso de IA generativa en los flujos de detección de amenazas es cada vez más habitual. Al igual que sucedió en el pasado con las técnicas de evasión de entornos sandbox, es crucial anticiparse a este nuevo tipo de amenazas y reforzar los mecanismos de protección para que los modelos de IA sean más resistentes frente a manipulaciones adversarias.
«Estamos viendo malware que no solo trata de evadir la detección, sino que intenta manipular activamente la IA para que lo clasifique erróneamente. Aunque este intento falló, marca un cambio en las tácticas de los atacantes», afirman desde la empresa de seguridad tecnológica.
A medida que los defensores adoptan la IA, los atacantes aprenden a explotar sus vulnerabilidades. Por lo tanto, es fundamental estar preparados para esta nueva evolución del malware y desarrollar estrategias de seguridad que puedan hacer frente a estas técnicas de evasión y manipulación basadas en Inteligencia Artificial.
