A medida que la adopción de la inteligencia artificial (IA) se acelera, las empresas se enfrentan a nuevos desafíos de seguridad y cumplimiento. Según una encuesta global realizada por Salesforce a más de 2,000 responsables de seguridad informática, casi 8 de cada 10 reconocen que sus prácticas de seguridad necesitan una transformación urgente.
Si bien existe un optimismo generalizado sobre los beneficios que pueden aportar los agentes de IA, la encuesta revela importantes obstáculos que las organizaciones deben superar para implementarlos de manera segura y efectiva. Casi la mitad (48%) de los encuestados teme que su base de datos no esté preparada para aprovechar al máximo la IA agéntica, y más de la mitad (55%) no confía plenamente en tener las barreras de seguridad adecuadas para desplegar estos agentes.
La Importancia de una Infraestructura de Datos y Gobernanza Sólidas
Para que los agentes de IA puedan funcionar de manera confiable y segura, las empresas deben contar con una infraestructura de datos robusta y una gobernanza de datos efectiva. Esto les permitirá aprovechar al máximo las capacidades de los agentes de IA sin poner en riesgo la seguridad de sus sistemas y datos.
Según Alice Steinglass, vicepresidenta ejecutiva y directora general de Salesforce Platform, Integration and Automation, «Los agentes de IA de confianza se basan en datos de confianza. Los equipos de seguridad de TI que dan prioridad a la gobernanza de datos podrán aumentar sus capacidades de seguridad con agentes al tiempo que protegen los datos y cumplen con las normativas».
Desafíos en la Implementación de la IA
Además de los riesgos de seguridad conocidos, como las amenazas en la nube, el malware y los ataques de suplantación de identidad, los responsables de TI ahora también se preocupan por el envenenamiento de datos, en el que agentes maliciosos ponen en peligro los conjuntos de datos de entrenamiento de IA.
Otro desafío importante es el entorno normativo cada vez más complejo en todas las regiones y sectores. Casi el 83% de las organizaciones afirma que no ha automatizado completamente sus procesos de cumplimiento, lo que dificulta la implementación de la IA de manera segura y conforme a las regulaciones.
Construyendo Confianza en la IA
La confianza es fundamental para el éxito de la IA, pero aún es incipiente. Según un estudio reciente, solo el 42% de los consumidores confía en que las empresas utilicen la IA de forma ética, un descenso desde el 58% en 2023.
Los líderes de TI reconocen que tienen trabajo por hacer para ganarse esta confianza. El 57% no confía plenamente en la precisión o explicabilidad de los resultados de IA, el 60% no ofrece total transparencia sobre el uso de datos de clientes, y el 59% no ha perfeccionado sus directrices éticas para el uso de IA.
El Papel Clave de la Gobernanza de Datos
Casi la mitad de los responsables de seguridad informática no están seguros de disponer de datos de calidad para respaldar a los agentes de IA, o de poder implementarlos con los permisos, políticas y barreras de seguridad adecuadas.
Sin embargo, hay señales de progreso. Una encuesta reciente reveló que las organizaciones asignan cuatro veces más presupuesto a la infraestructura y gestión de datos que a la IA, lo que indica que están sentando las bases adecuadas para una implementación más amplia y segura de la IA.
Agentes de IA: Un Bálsamo para la Adopción de Tecnología
A pesar de los desafíos, los responsables de seguridad informática son optimistas sobre los beneficios que pueden aportar los agentes de IA. Más del 40% ya los utilizan en sus operaciones cotidianas, y se prevé que esta cifra casi se duplique en los próximos dos años.
Los agentes de IA pueden ayudar a los equipos de seguridad a detectar amenazas, realizar auditorías sofisticadas de los modelos de IA y liberar tiempo para la resolución de problemas más complejos. Tres cuartas partes (75%) esperan utilizar agentes de IA en un plazo de dos años, frente al 41% actual.
En resumen, para que las empresas puedan implementar la IA de manera segura y efectiva, deben construir una sólida infraestructura de datos y una gobernanza robusta. Esto les permitirá aprovechar al máximo los beneficios de los agentes de IA, al tiempo que protegen sus sistemas y datos, y ganan la confianza de clientes y reguladores.
