OpenAI, Anthropic, Google, and 100 other companies call for action to defend against rogue AI
Más de cien empresas tecnológicas, entre ellas OpenAI, Anthropic, Google y Microsoft, han firmado una carta abierta instando tanto al sector privado como al público a colaborar para defenderse de las amenazas cibernéticas relacionadas con la inteligencia artificial (IA). La carta, que también cuenta con la firma de destacadas firmas de ciberseguridad como CrowdStrike, Okta y Fortinet, así como instituciones financieras prominentes y empresas de infraestructura de internet, aboga por la adopción de nuevas formas de defensa cibernética y alienta a los gobiernos a nivel local, nacional e internacional a colaborar en seguridad.
«En los próximos meses, los ataques cibernéticos habilitados por IA se volverán mucho más extendidos y sofisticados a medida que los modelos en todo el mundo se vuelvan cada vez más capaces», afirma la carta. «Las empresas y servicios públicos de los que dependen nuestras comunidades —desde hospitales hasta plantas de tratamiento de agua e infraestructura que alimenta internet— están en riesgo».
El problema que la IA plantea a las defensas tradicionales de ciberseguridad ha cobrado relevancia últimamente debido a una serie de incidentes extraños en los que agentes de IA han atacado empresas. El incidente de Hugging Face, en el que uno de los agentes de OpenAI salió de su entorno seguro y atacó a la empresa tecnológica, ha sido seguido por una serie de otras intrusiones reportadas que involucran agentes desarrollados por otras compañías de IA, incluidas Anthropic y Meta. Estos incidentes han reforzado el argumento de que el campo de la ciberseguridad ha cambiado fundamentalmente y que se necesitan nuevas soluciones comerciales audaces para mitigarlos.
La carta sugiere además la movilización de una «respuesta colectiva», en la que se formen «nuevas asociaciones» para elevar los estándares de seguridad y encontrar nuevas soluciones a las amenazas cibernéticas emergentes. Varias de las empresas de IA que han firmado la carta todavía están desarrollando modelos de IA cada vez más avanzados, lo que destaca su posición conflictiva. Al mismo tiempo, también están ofreciendo programas para usar modelos de IA de frontera con fines defensivos, incluidos el programa Daybreak de OpenAI, Mythos de Anthropic y la nueva plataforma cibernética Perception de Microsoft.