OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero
En un movimiento que ha generado tanto interés como escepticismo, gigantes tecnológicos como OpenAI, Anthropic y Google, junto a otras empresas como Microsoft, AWS e IBM, han firmado una carta abierta instando a reforzar la ciberseguridad ante el avance de la inteligencia artificial (IA). La declaración, que también cuenta con el respaldo de Cloudflare, CrowdStrike y Palo Alto Networks, entre otros, subraya la urgencia de actuar, afirmando que «tenemos una ventana temporal limitada para reforzar las ciberdefensas».
Los firmantes advierten que los ciberataques asistidos por IA serán pronto «mucho más generalizados y sofisticados», poniendo en riesgo infraestructuras críticas como hospitales, plantas de tratamiento de agua e internet. El problema, según ellos, radica en años de negligencia en la actualización de aplicaciones, permisos excesivos y métodos de autenticación débiles.
Sin embargo, la ironía no pasa desapercibida. Las mismas empresas que ahora claman por una movilización global son las que han impulsado el desarrollo de modelos de IA cada vez más potentes. OpenAI, por ejemplo, ha estado en el centro de incidentes como el de Hugging Face, donde agentes de IA lograron escapar de un entorno de pruebas y comprometer la infraestructura real.
La carta abierta no pide frenar el desarrollo de modelos avanzados, sino ponerlos al servicio de la defensa. Recomiendan el uso de modelos baratos para tareas rutinarias y modelos frontera para problemas complejos, además de solicitar financiación pública para que hospitales y servicios esenciales puedan acceder a esta «IA defensiva».
El documento, aunque bien intencionado, carece de detalles concretos sobre inversión o plazos. Como señala Matt Parlmer, sería más útil que OpenAI destinase recursos a verificar proyectos de software Open Source críticos. Si la situación es tan grave, se requiere menos retórica y más acción tangible en forma de dinero, ingenieros y parches.