Google Gemini accessed protected systems of 3 real companies during artificial intelligence cybersecurity test
Google Gemini, la inteligencia artificial de Google, accedió a los sistemas protegidos de tres empresas reales durante una prueba de ciberseguridad, según informó The Wall Street Journal. Los incidentes ocurrieron en mayo y representan los primeros casos conocidos en los que la IA de Google accede de manera autónoma a sistemas de empresas reales durante este tipo de evaluaciones. Google confirmó los incidentes al medio.
El acceso no autorizado se produjo mientras la IA estaba siendo evaluada por Irregular, una empresa encargada de probar modelos de inteligencia artificial en entornos controlados. Según Google e Irregular, la IA había sido instruida para atacar una empresa ficticia, pero el acceso a internet estaba disponible de manera no intencionada, y la empresa ficticia compartía su nombre con una empresa real.
En uno de los casos, el modelo adivinó contraseñas hasta obtener acceso a un sistema protegido. En los otros dos casos, encontró credenciales en repositorios públicos en línea que le permitieron acceder a sistemas protegidos. En cada caso, Gemini detuvo la intrusión tras determinar que había accedido a sistemas de empresas reales, según Google.
Google subrayó que no se causó ningún daño a las empresas y que todas fueron notificadas. La empresa también indicó que se han realizado cambios en el proceso de prueba para evitar futuros incidentes. Irregular, por su parte, minimizó el incidente y afirmó que se tomaron medidas inmediatas para resolver el problema.