California lawmakers urge criminal penalties, emergency legislation to rein in unchecked AI
Los legisladores de California están pidiendo una legislación de emergencia y sanciones penales para los creadores de sistemas de inteligencia artificial (IA) descontrolados, después de que altos ejecutivos de IA afirmaran públicamente que su tecnología representa amenazas existenciales para la humanidad. Dario Amodei, director ejecutivo de Anthropic, escribió en un ensayo el 12 de septiembre que «debemos desacelerar el ritmo» de la tecnología. Sin embargo, el congresista de Silicon Valley, Ro Khanna (D-Fremont), lo criticó por no ir «lo suficientemente lejos» para asegurar que la inteligencia artificial se desarrollara con salvaguardas.
Khanna argumentó que la solución era simple: hacer que las empresas sean responsables del daño que, según los ejecutivos, parece cada vez más inevitable. «Si estás creando una IA que está haciendo cosas ilegales, deberías enfrentar responsabilidad o sanción penal», dijo Khanna en un video publicado en X el sábado. «Eso es lo que necesitamos para proteger a la humanidad».
En julio, funcionarios de OpenAI, la empresa detrás de ChatGPT, revelaron que, sin que ellos lo supieran, sus modelos de IA habían hackeado a la startup rival Hugging Face. Amodei advirtió que, dentro del próximo año, «dado el ritmo acelerado del desarrollo de capacidades de IA», un incidente similar podría llevar a la IA a «tomar el control de todo Internet».
Elon Musk, director ejecutivo de xAI, y Sam Altman, director ejecutivo de OpenAI, se unieron al llamado de Amodei para desacelerar el desarrollo vertiginoso el sábado. Las declaraciones se producen después de que Jacob Coxon, quien trabajó como investigador en Anthropic y OpenAI, dijera en un post ampliamente difundido que renunció a Anthropic en protesta tras convencerse de que los gigantes tecnológicos estaban «corriendo directamente hacia la superinteligencia auto-mejorada y jugando con nuestras vidas».
El ex presidente Obama ha instado a los demócratas a hacer de la supervisión de la IA el núcleo de su agenda y dijo que los candidatos presidenciales en 2028 deberían tener un «plan claro» para responder a las preocupaciones sobre la tecnología. Los estadounidenses parecen cada vez más alarmados por la tecnología, con 7 de cada 10 encuestados en marzo oponiéndose a la construcción local de centros de datos que impulsan la tecnología de IA, según una encuesta de Gallup.
Durante una aparición el domingo en CNN, Johnson rechazó la idea de que los legisladores deban apresurarse a una sesión de emergencia para considerar la creación de salvaguardas industriales. En cambio, dijo que los legisladores deben tener cuidado de «no sofocar la innovación estadounidense». «Perderemos la carrera con China, y eso es una amenaza para cada estadounidense», dijo en «State of the Union» de CNN.