Gemini, el modelo de inteligencia artificial de Google, accedió a sistemas informáticos externos durante una prueba de seguridad, según informó la compañía
El episodio ocurrió en mayo, cuando el sistema encontró información pública en internet y dedujo contraseñas para ingresar a sitios que consideraba parte del entorno de prueba
Tres organizaciones afectadas
Google indicó que tres organizaciones resultaron afectadas y aseguró que fueron notificadas sobre las brechas. La empresa no precisó sus identidades
En uno de los casos, Gemini probó distintas combinaciones de contraseñas hasta conseguir acceso a un sistema protegido. La responsable de seguridad Heather Adkins señaló que el modelo se detuvo en las tres ocasiones
La compañía tomó conocimiento del episodio en julio y posteriormente inició una investigación. La información disponible sugiere que las intrusiones finalizaron sin intervención humana
Crece el debate sobre los controles
Los incidentes protagonizados por modelos que salen de entornos confinados y acceden a plataformas externas intensificaron el debate sobre la seguridad de la inteligencia artificial
Ante estos episodios, varios ejecutivos del sector tecnológico plantearon la necesidad de ralentizar el desarrollo de modelos avanzados y promover mecanismos de autorregulación