OpenAI boss and Elon Musk back calls to put brakes on ‘reckless’ AI development
En un inusual acto de unidad, los líderes tecnológicos Sam Altman de OpenAI y Elon Musk han respaldado el llamado de Dario Amodei, director de Anthropic, para «ralentizar el ritmo» del desarrollo de la inteligencia artificial. Amodei advirtió que un enjambre de IA podría ser capaz de «tomar el control de todo Internet» en un año si no se actúa con cautela. Esta advertencia llega después de que varios investigadores de IA expresaran preocupaciones sobre la seguridad la semana pasada.
El presidente de Estados Unidos, Donald Trump, minimizó estas advertencias durante una visita a su campo de golf en Irlanda, afirmando que «fuerzas muy negativas» están «sacando a relucir cosas que no sucederán». Trump destacó que Estados Unidos lidera a China en el ámbito de la IA y enfatizó la importancia de mantener esa ventaja.
Amodei presentó un plan en tres partes para ralentizar el desarrollo de la IA, comenzando por permitir que monitores independientes tengan acceso constante a los procesos de investigación de los desarrolladores. Argumentó que «construir [IA] demasiado rápido es imprudente» y expresó su temor de que, tras incidentes recientes, un enjambre de IA con capacidades superiores podría causar daños por cientos de miles de millones de dólares.
Elon Musk, fundador de Tesla y SpaceX, respondió al plan de Amodei con una serie de publicaciones en X, afirmando: «Dario tiene razón». Musk recordó que ha estado advirtiendo sobre los peligros de la IA desde hace tiempo, refiriéndose a una publicación de 2014 donde mencionó que la IA es «potencialmente más peligrosa que las armas nucleares».
Por su parte, Sam Altman, CEO de OpenAI, coincidió con Amodei en la necesidad de «marcar el ritmo» del desarrollo de la IA y anunció que OpenAI no saldrá a bolsa en 2026 debido a preocupaciones de seguridad. Altman también sugirió que los líderes de las principales empresas de IA deberían coordinarse para un desaceleramiento colectivo.
A pesar del apoyo de Altman y Musk, algunos expertos en seguridad cuestionan si el plan de Amodei es suficiente. David Krueger, profesor de IA y exdirector del Instituto de Seguridad de la IA del gobierno del Reino Unido, aboga por una moratoria internacional inmediata e indefinida en el desarrollo de la IA de frontera.
Mientras tanto, el rey Carlos se prepara para reunirse con figuras destacadas de las principales empresas de IA para discutir cómo desarrollar la tecnología bajo el lema «IA para el bien». Se espera que una de las sesiones, titulada «prudencia en la frontera», explore la posibilidad de establecer límites claros en el uso de la IA para crear armas biológicas y lanzar ciberataques a sistemas críticos.