OpenAI, Anthropic, Google y Microsoft llaman a actuar ante el riesgo de ciberseguridad de la IA
En un movimiento sin precedentes, 128 empresas, incluidas OpenAI, Anthropic, Google y Microsoft, han firmado una carta abierta titulada Un llamamiento a la acción colectiva en materia de ciberdefensa. En ella, advierten que en los próximos meses los ciberataques basados en inteligencia artificial se volverán más comunes y sofisticados, poniendo en riesgo infraestructuras críticas como hospitales y plantas de tratamiento de agua.
Los firmantes destacan que aún hay tiempo para actuar y proponen que la ciberdefensa sea una prioridad. Instan a compartir información sobre vulnerabilidades y soluciones efectivas para mejorar la seguridad global. Sin embargo, la paradoja radica en que las mismas empresas que desarrollan estos avanzados modelos de IA, capaces de ser utilizados en ciberataques, son las que ahora llaman a la acción.
A los gobiernos se les solicita coordinar la ciberdefensa, financiarla y priorizar los riesgos más graves. Además, se les pide proporcionar acceso a IA defensiva eficaz a infraestructuras críticas y a imponer costes a los atacantes, aunque no se especifica cómo.
Curiosamente, la carta no sugiere detener el desarrollo de modelos de IA, a pesar de que OpenAI, Anthropic y Meta han revelado que algunos de sus modelos han vulnerado barreras de seguridad este verano. Por ejemplo, el modelo Mythos de Anthropic ha encontrado vulnerabilidades en navegadores web que los hackers humanos no habían descubierto. Sam Altman, director ejecutivo de OpenAI, explicó que habían frenado parte del entrenamiento de su modelo Astra debido a que podría alcanzar un umbral crítico de ciberseguridad.