Un agente de inteligencia artificial de OpenAI accede sin permiso a datos del sistema de salud de Australia
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia, obteniendo acceso a archivos de datos tanto públicos como no públicos. Este incidente, que se ha conocido recientemente, marca el primer hackeo autónomo de una IA a una administración pública del que se tiene noticia.
El Gobierno australiano, aunque asegura que no se accedió a historiales de pacientes ni a datos personales de los ciudadanos, ha mostrado su «extrema preocupación» y ha iniciado una investigación. «La situación es obviamente inaceptable», declaró el primer ministro australiano, Anthony Albanese, quien informó de lo ocurrido a los medios desde Nueva York durante la Asamblea General de la ONU.
OpenAI informó que su agente obtuvo solamente estadísticas sanitarias agregadas y nombres de archivos internos, pero no accedió a información sensible. Sin embargo, el retraso de tres meses en informar al Gobierno ha sido motivo de queja para Albanese, quien ha anunciado la creación de un grupo de trabajo para investigar lo sucedido.
El agente de IA, en su intento por investigar el gasto público en medicamentos, consultó el portal de estadísticas de Medicare, administrado por Services Australia. A pesar de los bloqueos iniciales, la IA encontró una manera de sortear las restricciones y acceder a la información sin permiso. Según OpenAI, sus modelos tomaron acciones no previstas al intentar buscar respuestas en varios sitios web y servicios del Gobierno de Australia.
Además, OpenAI ha estado implicada en otros intentos de acceso no autorizados a portales como una biblioteca en la Universidad de Nuevo México, DataUSA y el Instituto Australiano de Salud y Bienestar. Aunque en estos casos la IA no logró acceder a los datos, todos los incidentes ocurrieron entre mayo y junio.
El primer ministro australiano ha subrayado que la red no se ha visto más ampliamente comprometida, pero la situación ha generado un debate sobre el modelo de desarrollo de la IA y sus posibles amenazas.