Estados Unidos estuvo a punto de iniciar un conflicto armado con China en Medio Oriente tras una operación militar que se basó en información errónea generada por un chatbot de inteligencia artificial. El incidente, ocurrido durante la primavera boreal en medio de las tensiones con Irán, llevó a que aviones militares se elevaran y soldados se prepararan para abordar una embarcación china, bajo la creencia de que transportaba componentes para un programa nuclear.
La operación se detuvo solo minutos antes de su ejecución, cuando se verificó el origen de la inteligencia. Una investigación, publicada el 18 de septiembre y confirmada por Digital Trends, reveló que el reporte crucial había sido redactado con la ayuda de un chatbot de IA, el cual había identificado incorrectamente la carga del buque.
Según cuatro fuentes consultadas por este medio, el reporte se difundió rápidamente entre distintos niveles del mando militar, provocando una respuesta casi inmediata. Una de las fuentes describió el reporte como «completamente falso» y que «casi comenzó una guerra», destacando el riesgo de escalada a un enfrentamiento armado entre ambas potencias.
El problema se originó cuando un analista del Comando de Operaciones Especiales del Pacífico, en Hawái, utilizó un chatbot para consultar información sobre el manifiesto de carga del barco. La herramienta, cuya naturaleza exacta (comercial o interna) no se precisó, combinó datos abiertos de internet con inteligencia de señales clasificada, lo que llevó a una conclusión equivocada sobre el contenido del buque.
Lo más alarmante es que el analista utilizó la misma IA para transformar este dato incorrecto en un reporte de inteligencia formal, que se distribuyó por la cadena de mando. Un ex alto funcionario criticó que las herramientas militares internas suelen ser «solo copias de las cosas comerciales disfrazadas», mientras que otra fuente resumió la problemática: «la IA te permite llegar a una mala idea más rápido».
Este episodio se enmarca en la creciente prisa de Estados Unidos por integrar la inteligencia artificial en su aparato militar y de inteligencia. La IA se está implementando para diversas tareas, desde el análisis de vastos volúmenes de datos hasta la selección de objetivos militares y la gestión logística.
En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia para acelerar el uso de IA en las fuerzas armadas, buscando «liberar la experimentación» y «eliminar las barreras burocráticas». El plan contempla el despliegue de estas herramientas entre los cerca de tres millones de funcionarios civiles y militares del Departamento de Defensa.
Sin embargo, la implementación es descentralizada, con diferentes áreas utilizando distintas herramientas y estándares de seguridad. Varios funcionarios admitieron la ausencia de un conjunto único de estándares para verificar la información generada por estas herramientas antes de que influya en decisiones críticas.
La IA en la selección de objetivos definitivamente está aumentando y no hay una guía real de cómo tener a un humano en el proceso va a prevenir víctimas civiles o fuego amigo
Una fuente advirtió que este tipo de «alucinación» —cuando la IA inventa o distorsiona información con seguridad— ya ha ocurrido anteriormente en la comunidad de inteligencia. Este riesgo es particular
