Agentes vinculados al Gobierno de Irán han sido señalados por este medio, según un informe publicado este jueves, por utilizar el modelo de inteligencia artificial Claude para respaldar operaciones de vigilancia, incluyendo la planificación de posibles ataques contra objetivos estadounidenses y la difusión de propaganda.
El documento de 154 páginas, fruto de ocho meses de investigación de la compañía estadounidense Anthropic, detalla cómo estas herramientas pueden facilitar la identificación de objetivos y procesar grandes volúmenes de información sobre disidentes, periodistas, activistas y políticos. Esto permitiría a los gobiernos potenciar la eficiencia de sus sistemas de vigilancia existentes.
En el caso específico de Irán, los usuarios recurrieron a mecanismos para eludir las restricciones de acceso a Claude, dado que el servicio no está disponible oficialmente en el país. Para ello, emplearon redes privadas virtuales y números de teléfono extranjeros con el fin de acceder a la plataforma.
Un grupo de ciberdelincuentes con lazos en Irán utilizó una cuenta de Claude para generar recomendaciones de ataque dirigidas contra las fuerzas navales de Estados Unidos en la región. El informe de la empresa Anthropic también abarca otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, la compañía afirmó haber bloqueado estos usos. Sin embargo, reconoció no haber podido determinar si las investigaciones tenían fines legítimos o maliciosos.
“Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real”, explicó la empresa.
La firma advirtió sobre la creciente capacidad y autonomía de los modelos de IA, factores que están reduciendo las barreras técnicas y económicas para llevar a cabo actividades que antes demandaban mayores conocimientos y recursos. Este informe se enmarca en las crecientes preocupaciones de expertos tecnológicos sobre el uso dual de la inteligencia artificial, ya que modelos capaces de asistir en investigaciones biológicas también podrían ser utilizados para actividades peligrosas.
