Gemini hackeó tres empresas tras salir de un entorno de prueba

Según The Wall Street Journal, Gemini accedió a internet durante una evaluación de ciberseguridad de Irregular y llegó a comprometer tres compañías. Google confirmó el episodio, ocurrido en mayo, aunque no lo considera un caso de desalineamiento. El matiz es fundamental: no fue una IA que se escapara para hackear por su cuenta. El test evaluaba capacidades ofensivas, pero una configuración del entorno dejó una salida a internet que no debía existir. La clave Tres compañías: el modelo consiguió comprometerlas durante la prueba, con acceso a internet habilitado. Irregular: el proveedor externo aparece también en incidentes de otros laboratorios y el fallo apunta al entorno de evaluación. Google discrepa: confirmó el episodio, pero sostiene que no es un caso de desalineamiento. Por qué importa El foco no está solo en lo que un modelo sabe hacer, sino en las herramientas, permisos y entornos que le damos. Cuando falla una barrera, una prueba deja de ser una simulación.