Los modelos de inteligencia artificial se han convertido en activos valiosos para los cibercriminales, convirtiéndose en un objetivo cada vez más atractivo debido a la gran cantidad de información que procesan y su uso cada vez más extendido en diversas industrias. ESET, líder en detección proactiva de amenazas, alerta sobre los diversos ataques que pueden sufrir estos modelos, que van desde el robo de propiedad intelectual hasta la manipulación de resultados y el uso indebido de su infraestructura.
Vulnerabilidades de los Modelos de IA
Para comprender cómo los modelos de IA pueden ser objeto de ataques, el equipo de investigación de ESET ha identificado algunos de sus elementos básicos expuestos y sus posibles vulnerabilidades:
1. Datos de Entrenamiento
Todos los modelos de IA se alimentan de datos de entrenamiento, los cuales deben tener calidad y confiabilidad para garantizar el correcto funcionamiento de la tecnología. Estos datos podrían ser vulnerables y un ciberatacante podría introducir datos maliciosos, manipulando así el comportamiento o los resultados del modelo.
2. APIs Expuestas
Las interfaces de programación de aplicaciones (APIs) que permiten interactuar con los modelos de IA también pueden ser un punto de ataque, ya que un ciberdelincuente podría intervenir en ellas para manipular el modelo o extraer información sensible.
3. Estructura Interna del Modelo
Incluso los algoritmos y la estructura interna de los modelos de IA podrían ser susceptibles a ataques adversariales o a la extracción de información confidencial.
4. Servidores y Bases de Datos
Más allá de los ataques directos al modelo, este también podría verse afectado si los servidores o bases de datos donde se almacena su información o se procesa el modelo son objeto de diversos ataques que interrumpan su funcionamiento.
Principales Ataques a Modelos de IA
ESET ha identificado los principales tipos de ataques que pueden sufrir los modelos de inteligencia artificial:
1. Envenenamiento de Datos (Data Poisoning)
Consiste en la manipulación de los datos de entrenamiento con el objetivo de alterar el comportamiento del modelo.
2. Ataques Adversariales
Se generan inputs o entradas manipuladas de manera casi imperceptible para los humanos, pero que inducirán errores en el modelo. Por ejemplo, la manipulación de imágenes para hacer que un modelo de reconocimiento facial confunda identidades.
3. Control y Explotación del Modelo
Los cibercriminales toman el control del modelo durante su producción, aprovechándolo con distintos fines como la ejecución de otros ataques, como una denegación de servicio o la creación de redes de bots.
4. Inversión de Modelo (Model Inversion Attack)
El objetivo es inferir y obtener información sensible a partir de las predicciones del modelo. Por ejemplo, en modelos que identifican datos faciales, se podría reconstruir los rostros originales tomando como base los resultados del modelo.
5. Extracción de Modelo (Model Extraction Attack)
En este tipo de ataque, se envían diferentes consultas al modelo para luego analizar las salidas con el objeto de entender y reconstruir su estructura interna, así como su lógica. De esta manera, se podría imitar o replicar un modelo sin necesidad de acceso directo al código fuente o datos de entrenamiento.
6. Ataques de Evasión
Se modifican los inputs de los modelos con el fin de evadir la detección de ciertas actividades o generar una clasificación errónea. Esto se ha utilizado en sistemas de detección de fraudes y en modelos de seguridad basados en IA, como antimalware y firewalls.
7. Malware en Infraestructuras
Fuera de los ataques directos al modelo, estos también están sujetos a que sus servidores sean infectados con diferentes tipos de malware que puedan interrumpir su operatividad, bloquearlos e incluso filtrar información.
En resumen, los modelos de inteligencia artificial se han convertido en un objetivo codiciado por los cibercriminales, quienes utilizan una variedad de estrategias para robar propiedad intelectual, manipular resultados y aprovechar su infraestructura con fines maliciosos. Es crucial que las organizaciones que implementan IA adopten medidas de seguridad integrales para proteger todas las capas de esta tecnología.
