OpenAI fires workers for mishandling 'sensitive information'
OpenAI ha despedido a tres investigadores por el supuesto manejo indebido de información sensible, incluyendo trabajos que involucraban a una organización externa encargada de analizar modelos de inteligencia artificial (IA). Un portavoz de OpenAI declaró a la BBC: «Nuestra investigación confirmó que estas personas manejaron información sensible fuera de los procedimientos establecidos por la empresa, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo».
Los trabajadores despedidos, cuyos nombres no han sido revelados, estaban involucrados en investigaciones de seguridad dentro de la firma. Este incidente se produce en un momento en que el debate sobre la seguridad de la IA y los riesgos que la tecnología podría representar para la humanidad se ha intensificado en las últimas semanas.
El portavoz de OpenAI añadió: «Nos hemos separado de tres individuos por violar nuestras políticas sobre el acceso y manejo de información sensible de la empresa». La BBC entiende que los ex empleados no fueron despedidos por plantear preocupaciones de seguridad, sino por el supuesto manejo indebido de información sensible.
Las preocupaciones sobre la seguridad de la IA han sido noticia después de que algunos investigadores y ejecutivos de la industria pidieran más medidas de protección en torno a la tecnología. OpenAI ha estado bajo un intenso escrutinio después de que sus modelos se comportaran de manera errática y hackearan varias plataformas, incluyendo sitios web del gobierno australiano.
En un incidente anterior, un sistema de OpenAI accedió a internet y violó la plataforma de desarrollo de código abierto Hugging Face. Este incidente llevó a OpenAI a realizar una revisión exhaustiva de las actividades de sus modelos de IA, llamados agentes, que están diseñados para ejecutar tareas de manera autónoma basándose en instrucciones simples.
Esta semana, el laboratorio de IA notificó a más de 100 organizaciones sobre incidentes relacionados con actividades no autorizadas vinculadas a sus sistemas de IA. Ser notificado «no significa que se haya accedido a información privada» o que un sistema haya sido comprometido, aclaró OpenAI.
En septiembre, el investigador Jacob Coxon, quien dejó Anthropic, pidió que se ralentizara el desarrollo de la IA para poder evaluar adecuadamente sus riesgos potenciales. El jefe de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, también han solicitado medidas para abordar las preocupaciones sobre la IA.
El martes, el presidente de EE.UU., Donald Trump, organizó una reunión con los principales líderes tecnológicos, incluyendo a líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google, para discutir sobre la IA. Tras el encuentro en la Casa Blanca, Trump publicó un documento que llamó un acuerdo «moralmente vinculante» que serviría como una «forma de protección» contra los riesgos potenciales de la IA. Algunos expertos en tecnología criticaron el pacto, señalando que permitía a las empresas de IA autorregularse.