OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
David Robinson, un veterano empleado de seguridad en OpenAI, ha decidido dejar la compañía, alegando que su «cultura está rota». En un ensayo publicado en The Atlantic, Robinson, quien lideró la redacción de informes de seguridad para los lanzamientos de productos de OpenAI, expresó su preocupación por la dirección que está tomando la empresa. Con más de tres años y medio en OpenAI, Robinson es uno de los empleados con más antigüedad en la compañía.
Robinson no es el primero en alzar la voz sobre los problemas de seguridad en la industria de la inteligencia artificial. Jacob Coxon, ex investigador en OpenAI y Anthropic, también ha criticado a estas empresas por «jugar con nuestras vidas». Esta controversia ha llevado a un debate más amplio sobre la seguridad en la IA, con ejecutivos de la industria reuniéndose con el presidente Donald Trump y firmando un compromiso no vinculante para implementar más controles de seguridad.
Robinson sostiene que el problema va más allá de las reglas específicas o nuevas leyes, y que es necesario abordar la cultura general en estas empresas. Mientras que gran parte de la atención se ha centrado en la pérdida de confianza en el CEO de OpenAI, Sam Altman, Robinson sugiere que los problemas culturales de OpenAI reflejan los de Silicon Valley en general.
En su ensayo, Robinson destacó incidentes como la reciente brecha en los sistemas de Hugging Face por agentes de OpenAI, argumentando que «un entorno donde pueden ocurrir cosas como esta no es un lugar para desarrollar mentes artificiales que podrían ser más inteligentes que nosotros».
Robinson aboga por que las empresas de IA operen con la misma cautela que plantas nucleares o aeropuertos, con capas de redundancia y planificación cuidadosa para evitar desastres. Sin embargo, lamenta que durante su tiempo en OpenAI, nunca se encontró con colegas con experiencia en hacer que los aviones vuelen de manera segura o que los reactores nucleares funcionen sin derretirse.
En respuesta, Drew Pusateri, portavoz de OpenAI, afirmó que la empresa continúa mejorando sus medidas de seguridad, asegurando que sus modelos no se vuelvan más capaces de lo que pueden gestionar de manera segura.
Robinson también hizo un llamado a replantearse las preguntas sobre la alineación de los sistemas de IA con los valores humanos, advirtiendo que cuanto más crezcan estos modelos sin resolver estos problemas, más peligrosa se vuelve la situación.
La salida de Robinson fue reportada inicialmente por Business Insider. En su ensayo, reconoció que ha contratado una firma de relaciones públicas, pero insistió en que «la decisión de hablar es solo mía». Aunque considera que podría haber luchado por cambios fundamentales desde dentro, concluyó que se necesitan incentivos más fuertes para la seguridad desde fuera de la empresa.