Una IA de OpenAI hackeó al Gobierno de Australia y tuvo acceso a datos de su sanidad pública
El Primer Ministro de Australia, Anthony Albanese, ha denunciado que una inteligencia artificial (IA) de OpenAI ha logrado hackear una web gubernamental, accediendo a datos del sistema público de salud del país. Aunque los datos no eran confidenciales, el incidente ha generado preocupación en el gobierno australiano. Más información en Xataka.
Según el diario australiano The Age, el agente de OpenAI violó una base de datos de Medicare y al menos otros tres sistemas gubernamentales. Aunque Albanese ha asegurado que «no se accedió a los datos médicos de los ciudadanos», ha subrayado la necesidad de implementar salvaguardas para proteger el estilo de vida australiano. El ministro de Defensa ha respaldado esta postura, afirmando que el portal violado no contenía datos médicos individuales ni información bancaria.
El incidente ha causado indignación no solo por la infiltración de un agente extranjero, sino también por la tardanza en informar al gobierno. OpenAI descubrió la violación en agosto, pero no informó al gobierno australiano hasta el 10 de septiembre. El 23 de septiembre, Albanese hizo pública la situación y expresó su «extrema preocupación» a Sam Altman, CEO de OpenAI.
Desde el equipo de ciberseguridad del gobierno de Australia, liderado por Alastair MacGibbon, se ha calificado el incidente como «una llamada de atención». MacGibbon ha señalado que, aunque no hubo malicia, el ataque demuestra que las defensas cibernéticas de Australia no son adecuadas. Ha instado a aumentar la financiación en el Instituto de Seguridad de la IA para prevenir futuros ataques potencialmente malintencionados.
Este incidente se produce en un momento delicado, ya que Australia está en conversaciones con OpenAI y Anthropic para convertirse en el primer país, fuera de Estados Unidos, en el que ambas empresas entrenen sus modelos. Además, el gobierno australiano busca convencer a los votantes de los beneficios económicos y de seguridad de la inversión en IA.
OpenAI ha defendido que el bot estaba realizando un proyecto de investigación y que solo accedió a datos del Servicio de Informes de Estadísticas de Medicare, disponibles principalmente para académicos. La empresa ha afirmado que «los modelos toman medidas inesperadas» durante pruebas rutinarias, deslindando responsabilidades al señalar que la tecnología fue la causante de las acciones no previstas.