Bernie Sanders calls on Silicon Valley to ‘pause AI development’ in interest of humanity
El senador Bernie Sanders ha hecho un llamamiento a los ejecutivos de Meta, OpenAI y Anthropic para que detengan el desarrollo de la inteligencia artificial, advirtiendo que el Senado de los Estados Unidos implementará regulaciones si las empresas continúan desplegando IA al ritmo actual.
En una nueva carta dirigida a los CEOs de tres de las principales empresas de IA del país, Sanders afirmó que las capacidades de estos modelos de IA han alcanzado un umbral de riesgo crítico y que las empresas están perdiendo el control sobre la tecnología.
“Señores Altman, Amodei y Zuckerberg: En interés de la humanidad, cumplan con sus palabras. Pausen el desarrollo de la IA,” decía la carta de Sanders, reportada por primera vez por Axios. “No es demasiado tarde para evitar el desastre. Dejen de construir máquinas que los humanos no pueden controlar.”
El senador de Vermont citó informes recientes que indican que la IA se utilizó para desarrollar nuevos virus, advirtiendo que si esta tecnología cae en “manos equivocadas” podría “conducir a nuevas armas biológicas que resulten en la muerte de decenas de millones de personas”.
Las tres empresas también han revelado que sus modelos hackearon los servidores de otras compañías, una señal de que las firmas han perdido el control sobre sus modelos, escribió Sanders.
“Yoshua Bengio, el científico vivo más citado del mundo, dijo que estos incidentes ‘deberían servir como una llamada de atención,’ estoy de acuerdo,” escribió Sanders en la carta.
Sin embargo, los expertos han advertido que las afirmaciones de OpenAI de que su modelo de IA se volvió rebelde pueden estar exageradas como parte de una campaña mediática para hacer que su tecnología parezca altamente peligrosa y, por lo tanto, extremadamente poderosa.
“Y sin embargo, en un momento en el que hemos visto la pérdida de control humano y la creación de virus potencialmente peligrosos, sus empresas siguen avanzando, invirtiendo decenas de miles de millones de dólares en una tecnología que nadie puede comprender, predecir o controlar completamente,” continuó.
La carta de Sanders llega después de que más de 1,300 científicos y desarrolladores de toda la industria tecnológica publicaran otra carta advirtiendo que el desarrollo de la IA avanza a un ritmo que dificulta abordar e identificar los riesgos de la tecnología. Las empresas y los países enfrentan una intensa presión competitiva para avanzar rápidamente. En la carta abierta, los ingenieros y otros empleados pidieron al gobierno de los EE. UU. que ayude a coordinar un esfuerzo internacional para frenar el desarrollo de modelos de frontera para que los reguladores puedan crear salvaguardas de seguridad en torno a la tecnología.
Las empresas se han comprometido previamente a pausar su desarrollo de IA si se alcanzaban ciertos umbrales de riesgo, pero no detallaron exactamente en qué consistirían esos límites.
Anthropic dijo que se “comprometería a pausar la ampliación y/o retrasar el despliegue de nuevos modelos siempre que nuestra capacidad de ampliación supere nuestra capacidad para cumplir con los procedimientos de seguridad.”
OpenAI, que dijo que ralentizaría el desarrollo de su último modelo de ciberseguridad, Astra, después del hackeo autónomo de otra organización, afirmó que “detendría el desarrollo” si las capacidades de la IA alcanzaban un umbral “crítico” hasta que se implementaran salvaguardas.
Sanders dijo que los recientes incidentes de hackeo son signos de que el umbral ha sido superado.
“Ese momento ha llegado,” decía su carta. “Las capacidades de la IA HAN alcanzado un umbral crítico. Hay una razón por la que el jefe de la CIA dice que los modelos de IA son ‘parecidos a armas nucleares digitales’ y ‘casi como un dispositivo del fin del mundo.’”
El senador progresista anteriormente había pedido una moratoria en la construcción de centros de datos en todo EE. UU. Él y la congresista Alexandria Ocasio-Cortez introdujeron un proyecto de ley para pausar la construcción de nuevos centros de datos en EE. UU. en marzo. Su razonamiento era similar al caso de Sanders para pausar el desarrollo de modelos de IA: una prohibición temporal, dijeron los legisladores, daría tiempo al gobierno de EE. UU. para crear fuertes salvaguardas federales para la IA.
Fuente: https://www.theguardian.com/technology/2026/aug/10/bernie-sanders-ai-development-pause-letter