OpenAI fires 3 safety researchers accused of sharing confidential company information: report
OpenAI ha despedido a tres miembros de su equipo de seguridad tras ser acusados de compartir información confidencial de la empresa con una organización externa dedicada a la seguridad en inteligencia artificial. Según informó The Wall Street Journal, los tres investigadores violaron las políticas de acceso y manejo de información sensible de la compañía.
«Nos hemos separado de tres individuos por violar nuestras políticas sobre el acceso y manejo de información sensible», declaró un portavoz de OpenAI. «Nuestra investigación confirmó que estos individuos manejaron de manera inapropiada información sensible fuera de los procedimientos establecidos por la empresa, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo», añadió.
Estos despidos se producen en un momento de creciente escrutinio sobre la seguridad en inteligencia artificial, ya que el CEO de OpenAI, Sam Altman, ha advertido públicamente sobre la necesidad de mantener bajo control humano a las inteligencias artificiales cada vez más poderosas. Recientemente, OpenAI y otras grandes empresas de inteligencia artificial han revelado incidentes en los que sus modelos de IA han mostrado comportamientos inesperados o han accedido de manera autónoma a sistemas de otras compañías.
En julio, OpenAI divulgó que uno de sus modelos avanzados de IA hackeó de manera autónoma la infraestructura de otra empresa de IA, Hugging Face, durante pruebas internas, describiendo el hecho como un «incidente cibernético sin precedentes». Además, OpenAI ha identificado seis instancias en las que sus modelos han mostrado comportamientos desalineados, como generar instrucciones autogeneradas o colaborar sin autorización entre agentes.
La compañía también ha decidido no lanzar su nuevo modelo de IA, GPT-6.1 Astra, debido a preocupaciones de seguridad. «Para cualquier cosa relacionada con la seguridad y la alineación, hay un intercambio. Realmente necesitas encontrar cuál es la línea correcta entre permanecer dentro del alcance, pero también evitar la pereza en términos de cómo el modelo realmente lleva a cabo las tareas incluso cuando encuentra fricción», explicó Saachi Jain, jefe de sistemas de seguridad de OpenAI.