La AEPD registra en España la primera brecha de datos causada por un ataque ejecutado mediante un agente de inteligencia artificial
La Agencia Española de Protección de Datos (AEPD) ha registrado un hito preocupante en el ámbito de la ciberseguridad: la primera brecha de datos personales en España causada por un ataque ejecutado mediante un agente de inteligencia artificial. Este incidente, que afectó a una organización española, permitió el acceso no autorizado a información almacenada en sus sistemas.
Según la AEPD, «un robot ha atacado de forma autónoma una organización en España por primera vez en la historia, y ha accedido a datos personales y facturas». Este tipo de ataque representa un nuevo desafío para la ciberseguridad, ya que la inteligencia artificial no solo fue utilizada como herramienta de apoyo, sino que fue capaz de realizar diferentes fases del proceso de forma autónoma.
El ataque comenzó con la búsqueda de fallos en archivos genéricos. Posteriormente, el sistema consiguió iniciar sesión correctamente y continuó examinando la aplicación en busca de puntos vulnerables. «Comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas», explica la AEPD a partir del análisis elaborado por Francisco Pérez Bes.
Este tipo de agentes pueden recibir un objetivo, establecer los pasos necesarios para alcanzarlo, probar diferentes alternativas y modificar el procedimiento durante su ejecución sin requerir instrucciones humanas para cada una de las acciones. La AEPD aclara que el uso de un modelo de lenguaje determinado no implica que esa herramienta haya sido creada con fines maliciosos ni que la infraestructura de su proveedor haya sido comprometida. En este caso, «un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque».
El incidente es una señal de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales. La preocupación se centra especialmente en la capacidad de estos sistemas para actuar con rapidez y ejecutar diferentes tareas de forma automatizada, reduciendo el margen disponible para detectar una intrusión y contenerla.