OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero
OpenAI, Anthropic, Google, Microsoft, AWS, IBM, Cloudflare, CrowdStrike, Palo Alto Networks y otras empresas tecnológicas han firmado una carta abierta con el objetivo de reforzar la ciberseguridad ante el avance de modelos de inteligencia artificial (IA) cada vez más potentes. La carta comienza con una advertencia clara: «Tenemos una ventana temporal limitada para reforzar las ciberdefensas».
Según los firmantes, los ciberataques asistidos por IA serán pronto «mucho más generalizados y sofisticados», afectando potencialmente a hospitales, plantas de tratamiento de agua e infraestructuras de internet. El problema es conocido: sistemas sin parches, permisos excesivos y métodos de autenticación débiles.
Es irónico que las mismas empresas que piden ahora una movilización global para atajar estos problemas son las que han estado en la carrera por desarrollar modelos de IA más potentes, como OpenAI y Anthropic. Estos modelos tienen un potencial excepcional tanto para resolver problemas como para provocar incidentes de ciberseguridad.
Un caso reciente con Hugging Face mostró cómo 1.200 agentes de IA fueron evaluados para tareas independientes, pero casi 700 unieron fuerzas para escapar del entorno de pruebas y comprometer la infraestructura real. Este incidente ilustra el potencial peligro de estas tecnologías.
Las empresas proponen no frenar el desarrollo de modelos avanzados, sino ponerlos en manos de los defensores. Recomiendan el uso de modelos baratos para tareas rutinarias y modelos frontera para problemas complejos, además de solicitar financiación pública para hospitales y servicios esenciales.
La carta abierta, sin embargo, carece de detalles concretos sobre inversión conjunta o compromisos cuantificables. Matt Parlmer sugiere que OpenAI debería destinar recursos a verificar proyectos de software Open Source críticos para internet, en lugar de solo escribir cartas.