Una inteligencia artificial de Google, el modelo Gemini, hackeó por error a tres empresas reales durante unas pruebas de ciberseguridad. Este incidente, que Google intentó mantener en secreto hasta que la prensa lo reveló, marca la primera vez que se documenta un caso de la IA “escapando” de su entorno de prueba y afectando a terceros, según confirmó CNN Business.
El hecho ocurrió en mayo, cuando Gemini fue encargada de buscar información de una empresa ficticia. Sin embargo, existía una compañía real con el mismo nombre, y la IA no pudo distinguirlas. Como resultado, encontró credenciales filtradas en internet y accedió a los sistemas de esa empresa. El mismo escenario se repitió en otras dos ocasiones, involucrando a tres compañías distintas en pruebas separadas.
Lo notable no es solo que esto ocurriera, sino que Google no lo informó públicamente hasta que medios como el Wall Street Journal empezaron a indagar. La compañía consideró que el suceso no calificaba como un “desalineamiento” del modelo, es decir, un comportamiento de la IA que se desvía de las expectativas de sus desarrolladores.
El incidente se produjo durante una evaluación de ciberseguridad realizada por Irregular, una empresa independiente israelí. Irregular, que ha trabajado con Meta, OpenAI y Anthropic, ya había reportado incidentes similares en otras pruebas, como detalló Engadget.
Google explicó que el fallo no fue una “maldad” del modelo, sino un error de configuración. Gemini no debería haber tenido acceso a internet durante la prueba, pero esta función quedó habilitada por accidente, un detalle que la propia Irregular reconoció. Con acceso a la web, la IA buscó información pública y, en un caso, adivinó una contraseña por fuerza bruta para acceder a un sitio que creía parte del ejercicio. En los otros dos casos, utilizó credenciales de acceso encontradas en repositorios públicos.
La defensa de Google se basa en que, en las tres ocasiones, el modelo se detuvo por sí solo al darse cuenta de que había entrado en un sistema real. Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, afirmó:
El modelo encontró información pública en línea y adivinó credenciales para acceder a sitios web que creía que eran parte de la prueba. En los tres casos, el modelo se detuvo.
Google insiste en que fue un “caso de identidad equivocada” y no un fallo grave de seguridad, asegurando que no hubo daños a las empresas afectadas, las cuales fueron notificadas. La compañía no reveló el modelo específico de Gemini involucrado, aunque aclaró que no es el más reciente, ni los nombres de las empresas afectadas.
Sin embargo, no todos comparten esta visión tranquilizadora. Jack Cable, director ejecutivo de la firma de seguridad en IA Corridor, señaló la preocupación de fondo:
el problema de raíz es que los modelos están saliéndose de los límites de lo que deberían hacer, y realizando ciberataques reales.
Este comportamiento autónomo de la IA, que decide usar una contraseña ajena y acceder a un sistema por su cuenta, incluso si después se detiene, es lo que genera inquietud entre los especialistas.
