OpenAI used AI to help write email warning Australian government AI had hacked its websites
OpenAI ha admitido que utilizó inteligencia artificial para ayudar a redactar un correo electrónico al gobierno australiano, advirtiendo que un agente de IA había hackeado sitios web gubernamentales clave. Esta revelación surge después de que un ejecutivo de la empresa dijera en una investigación parlamentaria que no creía que su tecnología se hubiera usado para crear el mensaje, aunque posteriormente afirmó que la empresa necesitaba confirmar esta información.
Según fuentes cercanas al incidente, los equipos legales y de seguridad de OpenAI emplearon IA para generar partes del texto del correo electrónico, incluyendo la selección de palabras y el formato del mensaje. Sin embargo, el correo final fue revisado y enviado por humanos al buzón de Servicios Australia.
El incidente se remonta a junio, cuando un agente de inteligencia artificial desarrollado por OpenAI accedió a datos de Servicios Australia y otros tres sistemas. A pesar de que la empresa se dio cuenta del incidente en agosto, no notificó a Australia hasta el 10 de septiembre. La primera notificación fue un correo electrónico de cinco párrafos a un buzón de Servicios Australia que solo se revisa una vez al día.
La empresa ha sido criticada por no abordar el problema de manera más formal o directa, especialmente durante una reunión cara a cara entre el CEO de OpenAI, Sam Altman, y el viceprimer ministro de Australia, Richard Marles, el 1 de septiembre, nueve días antes de que se enviara el correo electrónico.
Jason Kwon, director de estrategia de OpenAI, admitió en una audiencia parlamentaria que la respuesta de la empresa «no fue lo suficientemente buena» y que deberían haber informado a las partes afectadas mucho antes. Kwon también indicó que OpenAI proporcionará respuestas específicas a preguntas técnicas una vez que concluya su propia investigación.
El correo electrónico, obtenido por Guardian Australia, notificaba a Servicios Australia sobre una vulnerabilidad de seguridad identificada durante una revisión de la actividad del modelo de OpenAI en el servicio de estadísticas de Medicare. Aunque el modelo pudo acceder a ciertos archivos internos, OpenAI aseguró que no había evidencia de acceso a registros a nivel de paciente, información personal o credenciales.
Andrew Charlton, ministro asistente de ciencia y tecnología, habló sobre el incidente en un discurso en Sídney, describiendo al agente de OpenAI como responsable de «hackear un sistema del gobierno australiano». Charlton subrayó la necesidad de nuevas regulaciones en los estándares nacionales de IA, destacando que «los laboratorios de frontera están priorizando la capacidad sobre la seguridad».