AI Gemini de Google hackeó tres empresas en prueba de ciberseguridad
Tras los incidentes de OpenAi y Anthropic. El incidente ocurrió en mayo pasado
El AI Gemini de Google vulneró los sistemas de tres empresas durante una prueba de ciberseguridad, y se convirtió así en el primer caso en que la inteligencia artificial de la compañía realizó ese tipo de intrusiones, según informaron los medios The Wall Street Journal y Financial Times.
Además, se trata del primer incidente para el gigante tecnológico, tras otras brechas de seguridad de alto perfil que involucraron a las empresas OpenAI y Anthropic.
El hecho ocurrió en mayo pasado e involucró a tres compañías.
Google, por su parte, declaró que no reveló los incidentes porque sus medidas de seguridad habían funcionado, a diferencia de las de sus competidores.
Los incidentes ocurrieron durante una serie de ejercicios realizados por Irregular, una empresa especializada en seguridad de IA que también colabora con Anthropic, Meta y OpenAI.
Irregular afirmó haber diseñado una serie de pruebas para una versión no especificada de la familia de modelos Gemini de Google, encargándole la extracción de datos de empresas simuladas.
Se suponía que el sistema no tenía acceso a Internet.
Sin embargo, una vez en línea, los agentes de Gemini lograron adivinar o descifrar las contraseñas de tres empresas reales —que compartían los mismos nombres que las ficticias— e ingresar en los sistemas.
No obstante, cuando los agentes de IA se percataron de que las empresas eran reales, detuvieron los ataques.
“Nos aseguramos de que las tres entidades estuvieran informadas y colaboramos con nuestro socio de capacitación en los cambios que implementaron en sus procesos de prueba”, declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google.
“En los tres casos, el modelo se detuvo”, añadió.
“Estos sucesos ponen de manifiesto la importancia de entrenar a los potentes modelos de IA para que actúen de forma responsable”, completó.
