La inteligencia artificial (IA) está transformando profundamente las operaciones de las organizaciones, agilizando procesos, mejorando la productividad y descubriendo información valiosa. Su potencial en ciberseguridad es innegable, pero mientras las empresas se apresuran a aprovechar el poder de la IA generativa (GenAI), los ciberdelincuentes hacen lo mismo, solo que con intenciones diferentes.
Los actores de amenazas utilizan la IA para desarrollar malware sofisticado, lanzar campañas de phishing impulsadas por IA y explotar vulnerabilidades en software y API más rápido que nunca. Según datos recientes de ChileTec, la asociación nacional de desarrolladores de software, los ciberataques en Chile aumentaron un 30% durante el primer semestre de 2024, siendo el robo de información y el bloqueo de operaciones las principales amenazas.
Desafíos Clave de la Automatización con IA
Aunque Chile ha fortalecido sus estándares de ciberseguridad y desarrollo de IA, hasta el 70% de las PYMES no cuentan con las medidas de seguridad necesarias, según ChileTec. Además, el 76% de las organizaciones a nivel mundial no aplican la autenticación multifactor (MFA) para sus usuarios, y el 58% no la aplican para los usuarios root o administradores, dejando los sistemas vulnerables.
Otro problema apremiante es el sesgo en la toma de decisiones de la IA, ya que los algoritmos dependen completamente de los datos con los que están entrenados. Esto puede conducir a resultados problemáticos, como problemas de cumplimiento normativo, decisiones injustas y la creación de puntos ciegos en el marco de seguridad.
La privacidad y seguridad de los datos también son una gran preocupación, ya que los sistemas de IA procesan grandes cantidades de información, incluidos datos altamente sensibles. Según el último informe sobre amenazas en la nube, se encontraron datos confidenciales en el 63% de los depósitos de almacenamiento expuestos públicamente.
Estrategia Proactiva y en Capas para Gestionar los Riesgos
Para gestionar de manera inteligente los riesgos de la automatización con IA, las organizaciones deben adoptar una estrategia de seguridad proactiva y en capas:
1. Visibilidad y Supervisión Continua
Es vital comprender dónde se utiliza la IA y quién tiene acceso a ella, con una supervisión continua para detectar actividades no autorizadas y amenazas emergentes a medida que ocurren.
2. Protección de Datos
Controles de acceso estrictos, cifrado y protocolos de cumplimiento garantizan que los sistemas de IA gestionen la información confidencial de forma segura.
3. Políticas de Control de Acceso
Definir claramente qué empleados pueden utilizar las herramientas de IA y qué tipos de datos pueden procesar.
Además, es clave mantener un equilibrio cuidadoso entre la IA y la supervisión humana para mantener la resiliencia operativa. Los equipos de seguridad deben utilizar la IA para respaldar la toma de decisiones, pero sin depender excesivamente de ella.
La automatización con IA llegó para quedarse, pero las organizaciones deben tomar el control de su postura de seguridad antes de que los ciberdelincuentes lo hagan por ellas. Integrando la seguridad desde el principio, manteniendo la supervisión humana y aprovechando los conocimientos de los expertos, las empresas pueden aprovechar los beneficios de la IA sin ser víctimas de sus riesgos.
