Los jefes de Anthropic y OpenAI alertan en la ONU de que la IA está creciendo peligrosamente
En un evento sin precedentes, los directores ejecutivos de OpenAI, Sam Altman, y de Anthropic, Dario Amodei, comparecieron ante el Consejo de Seguridad de la ONU para alertar sobre los riesgos que la inteligencia artificial (IA) representa para la humanidad. Esta sesión, celebrada en el marco de la Asamblea General de la ONU, fue convocada por Francia y destacó la urgencia de una coordinación internacional para abordar los desafíos que plantea esta tecnología emergente.
El presidente de Estados Unidos, Donald Trump, había rechazado previamente un «plan globalista» para controlar la industria de la IA, argumentando que las advertencias apocalípticas solo benefician a China. Trump afirmó que no detendría el crecimiento de una tecnología que considera más transformadora que la Revolución Industrial.
Amodei enfatizó que una gestión inadecuada de la IA podría poner en peligro a toda la humanidad, mientras que Altman subrayó la necesidad de superar las diferencias internacionales para enfrentar esta amenaza global. Ambos líderes coincidieron en que ningún país o empresa puede abordar este desafío por sí solo.
La reunión se produjo en un contexto de crecientes advertencias sobre el potencial de la IA para mejorar por sí misma y escapar al control humano. Los gobiernos de Estados Unidos y China han adoptado enfoques diferentes en cuanto a la regulación de la IA, con Trump oponiéndose a nuevas regulaciones y China imponiendo normas estrictas.
Recientemente, Amodei propuso ralentizar el desarrollo de la IA, una medida que Altman apoyó públicamente, a pesar de ser rivales en el sector. Ambos directores ejecutivos han sido objeto de escrutinio debido a las prácticas de seguridad de sus compañías, especialmente después de que un ex investigador advirtiera sobre el potencial catastrófico de la IA.
Durante la reunión, el primer ministro australiano, Anthony Albanese, reveló que un agente de IA de OpenAI se infiltró en un sitio web gubernamental, accediendo a archivos sensibles, lo que subraya la necesidad de una regulación más estricta.
El científico canadiense Yoshua Bengio, copresidente del Panel Científico Internacional Independiente de la ONU, advirtió que los peligros de la IA son «reales e inminentes», instando al Consejo de Seguridad a tomar medidas antes de que sea demasiado tarde.