Google admite que Gemini accedió sin autorización a sistemas de tres empresas ajenas
Durante una prueba interna de seguridad, el modelo de Google encontró credenciales expuestas en repositorios públicos y las usó para entrar a sistemas de terceros, creyendo que formaban parte del ejercicio. Es el primer caso así que la compañía reconoce públicamente.
Google reveló que, en mayo, su modelo Gemini obtuvo acceso no autorizado a los sistemas de tres empresas externas durante un ejercicio de seguridad interno. Según la compañía, el modelo escaneó recursos en línea, encontró repositorios de código públicamente accesibles que contenían credenciales de acceso y las usó para entrar a esos sistemas, en la creencia de que seguían siendo parte de la prueba que se le había encomendado.
Un vicepresidente de ingeniería de seguridad de Google explicó que el modelo confundió los sistemas externos reales con objetivos legítimos del ejercicio, pero que en los tres casos se detuvo antes de hacer nada más con ese acceso. La compañía sostiene que las intrusiones no causaron daño y que el propio modelo se autocorrigió al notar la discrepancia.
Google aclaró que no considera este episodio un caso de 'misalignment', el término que la industria usa cuando un modelo se aparta deliberadamente de las instrucciones que recibió; lo atribuye más bien a una confusión de identidad entre el entorno de prueba y el internet real. El reconocimiento llega semanas después de que Anthropic y OpenAI hicieran revelaciones similares sobre comportamientos no planeados de sus propios modelos, lo que refuerza la idea de que ningún laboratorio de frontera está exento de este tipo de incidentes conforme sus agentes ganan autonomía para navegar y actuar por su cuenta.