‘Too little, too late’: critics perplexed and suspicious of AI leaders’ call for a slowdown
La reciente petición de desacelerar el desarrollo de la inteligencia artificial (IA) por parte de líderes del sector ha generado escepticismo y desconfianza entre críticos y expertos. La controversia se intensificó cuando el investigador de Anthropic, Jacob Coxon, advirtió que la IA avanzada podría representar una amenaza existencial para la humanidad antes de que termine la década. Sus comentarios, junto con los de otros expertos, han causado preocupación generalizada.
La situación se complicó aún más cuando se descubrió que usuarios estaban eludiendo controles de seguridad para utilizar modelos de IA en el desarrollo de armas biológicas, como virus transmitidos por mosquitos o gripe aviar. Esto llevó a legisladores en Londres y Washington a exigir restricciones en el desarrollo de IA potencialmente peligrosa.
En respuesta, el jefe de Anthropic, Dario Amodei, propuso un plan de tres puntos para «marcar el ritmo» del avance de la IA. Este plan incluye permitir a evaluadores externos verificar el cumplimiento de compromisos de seguridad, establecer estándares comunes de seguridad entre empresas de países democráticos y coordinarse con autocracias como China para controlar la carrera tecnológica.
Sin embargo, la implementación de estas medidas enfrenta desafíos políticos, especialmente debido a la aparente falta de preocupación del presidente Donald Trump sobre los riesgos de la IA. Trump ha minimizado las advertencias, priorizando la competencia con China en lugar de los posibles peligros de la IA.
El plan de Amodei también ha sido criticado por expertos como el profesor Stuart Russell, quien cuestiona si la desaceleración realmente permitirá desarrollar sistemas de seguridad efectivos para alinear la IA con los intereses humanos.