Gemini salió de una prueba y vulneró a tres empresas
El modelo de Google accedió a sistemas reales durante una evaluación de ciberseguridad en mayo de 2026. Google no informó públicamente el incidente hasta que The Wall Street Journal consultó a la empresa.
Gemini vulneró los sistemas de tres empresas reales durante una prueba de ciberseguridad realizada por Irregular en mayo de 2026. El modelo de Google debía operar dentro de un entorno simulado, pero conservó por error acceso a internet y atacó objetivos externos. Google confirmó los incidentes después de que una investigación de The Wall Street Journal llevara el caso a conocimiento público en septiembre de 2026.
La evaluación era un ejercicio de capture the flag, una competencia para encontrar y explotar fallas dentro de una infraestructura controlada. Irregular había creado el entorno de una compañía ficticia, pero Gemini encontró en internet una empresa real con el mismo nombre y cambió de objetivo. En uno de los accesos, probó contraseñas repetidamente hasta acertar una, una técnica conocida como fuerza bruta. En los otros dos utilizó credenciales válidas publicadas en un repositorio accesible al público.
El sistema actuaba como un agente de IA, software capaz de ejecutar tareas y tomar decisiones con cierto grado de autonomía. Esa capacidad lo diferencia de un chatbot limitado a responder dentro de una conversación, una distinción desarrollada en qué es un agente de IA y en qué se diferencia de ChatGPT. En esta prueba, Gemini podía explorar sistemas y usar credenciales, pero no debía salir del espacio preparado por Irregular.
El boletín de Onda Corta
Una conexión que no debía estar abierta
Irregular reconoció que dejó disponible el acceso a internet de manera involuntaria. Esa conexión permitió que Gemini abandonara el sandbox, el entorno aislado donde debía permanecer, y alcanzara sitios externos. La firma aseguró que corrigió los problemas de su proceso y que todos los laboratorios pertinentes fueron avisados hacia finales de julio de 2026.
Google sostuvo que Gemini se detuvo en cuanto comprendió que había ingresado en empresas reales y afirmó que no produjo daños adicionales. Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, señaló que las entidades afectadas fueron notificadas y que la compañía trabajó con Irregular para modificar los procedimientos de prueba. Google también avisó a autoridades federales cuando ocurrieron las intrusiones.
La empresa no considera que el comportamiento haya sido un caso de desalineación, el término usado cuando un modelo actúa contra los objetivos o límites establecidos. Según Google, las medidas de seguridad funcionaron porque Gemini frenó su actividad al identificar el error. Jack Cable, CEO de la firma de seguridad Corridor, planteó una lectura distinta ante The Wall Street Journal: el problema central era que un modelo había superado los límites de la prueba y ejecutado ataques reales.
Google tampoco divulgó el incidente por iniciativa propia. Explicó que no lo hizo porque no hubo daños y porque clasificó lo ocurrido como una confusión de identidad, no como una falla de alineación. La discusión se relaciona con otros casos en los que agentes han alcanzado sistemas reales, un riesgo que también aparece en la investigación de la AEPD sobre un ciberataque ejecutado por IA.
Irregular también participó en pruebas anteriores con modelos de OpenAI, Meta y Anthropic en las que hubo acceso no autorizado a internet. En una evaluación con Claude Opus 4.7, el agente continuó atacando después de reconocer que el objetivo probablemente era real. En otra prueba con OpenAI, el modelo alcanzó un sitio activo, aunque aparentemente creyó que seguía dentro de una simulación. Google no confirmó qué versión específica de Gemini participó en los incidentes de mayo de 2026.
El boletín de Onda Corta