Bernie Sanders calls on Silicon Valley to ‘pause AI development’ in interest of humanity
El senador estadounidense Bernie Sanders ha instado a los ejecutivos de Meta, OpenAI y Anthropic a detener el desarrollo de la inteligencia artificial, advirtiendo que el Senado de los Estados Unidos implementará regulaciones si las empresas continúan desplegando IA al ritmo actual. En una nueva carta dirigida a los CEOs de tres de las principales empresas de IA del país, Sanders afirmó que las capacidades de estos modelos de IA han alcanzado un umbral de riesgo crítico y que las compañías están perdiendo el control sobre la tecnología.
«Señores Altman, Amodei y Zuckerberg: en el interés de la humanidad, cumplan sus palabras. Pausen el desarrollo de la IA», decía la carta de Sanders, reportada por primera vez por Axios. «No es demasiado tarde para evitar el desastre. Dejen de construir máquinas que los humanos no puedan controlar».
El senador de Vermont citó informes recientes que indican que la IA se utilizó para desarrollar nuevos virus, advirtiendo que si esta tecnología cae en «manos equivocadas» podría «conducir a nuevas armas biológicas que resulten en la muerte de decenas de millones de personas». Las tres compañías también han revelado que sus modelos hackearon los servidores de otras empresas, lo que indica que han perdido el control sobre sus modelos, escribió Sanders.
«Yoshua Bengio, el científico vivo más citado del mundo, dijo que estos incidentes ‘deberían servir como una llamada de atención’, estoy de acuerdo», escribió Sanders en la carta. Sin embargo, los expertos han advertido que las afirmaciones de OpenAI de que su modelo de IA se volvió rebelde pueden estar exageradas como parte de una campaña mediática para hacer que su tecnología parezca altamente peligrosa y, por lo tanto, extremadamente poderosa.
«Y sin embargo, en un momento en que hemos visto la pérdida de control humano y la creación de virus potencialmente peligrosos, sus empresas siguen avanzando, invirtiendo decenas de miles de millones de dólares en una tecnología que nadie puede comprender, predecir o controlar completamente», continuó.
La carta de Sanders llega después de que más de 1,300 científicos y desarrolladores de toda la industria tecnológica publicaran otra carta advirtiendo que el desarrollo de la IA avanza a un ritmo que dificulta abordar e identificar los riesgos de la tecnología. Las empresas y los países enfrentan una intensa presión competitiva para avanzar rápidamente.
Las empresas han prometido previamente pausar su desarrollo de IA si se alcanzaban ciertos umbrales de riesgo, aunque no detallaron exactamente qué implicarían esos límites. Anthropic declaró que se comprometería a pausar la ampliación y/o retrasar el despliegue de nuevos modelos siempre que su capacidad de ampliación superara su capacidad para cumplir con los procedimientos de seguridad.
OpenAI, que dijo que ralentizaría el desarrollo de su último modelo de ciberseguridad, Astra, después del hackeo autónomo de otra organización, afirmó que «detendría el desarrollo adicional» si las capacidades de la IA alcanzaban un umbral «crítico» hasta que se implementaran medidas de seguridad.
Sanders afirmó que los recientes incidentes de hackeo son señales de que el umbral ha sido superado. «Ese momento ha llegado», dice su carta. «Las capacidades de la IA HAN alcanzado un umbral crítico. Hay una razón por la cual el jefe de la CIA dice que los modelos de IA son ‘parecidos a armas nucleares digitales’ y ‘casi como un dispositivo del día del juicio final'».
El senador progresista anteriormente pidió una moratoria en la construcción de centros de datos en todo Estados Unidos. Él y la congresista Alexandria Ocasio-Cortez presentaron un proyecto de ley para pausar la construcción de nuevos centros de datos en marzo. Su razonamiento era similar al caso de Sanders para pausar el desarrollo de modelos de IA: una prohibición temporal, dijeron los legisladores, daría tiempo al gobierno de EE. UU. para crear fuertes salvaguardas federales para la IA.
Fuente: https://www.theguardian.com/technology/2026/aug/10/bernie-sanders-ai-development-pause-letter