Trump may be forced to reveal secret rules feds use for AI safety testing
El gobierno de Trump enfrenta una demanda que podría obligarlo a revelar las reglas secretas que utiliza para realizar revisiones de seguridad en modelos de inteligencia artificial (IA) de vanguardia antes de su lanzamiento. La organización sin fines de lucro Protect Democracy ha demandado a cuatro agencias federales, exigiendo transparencia sobre el marco utilizado para estas revisiones. Según la demanda, ni el público ni el Congreso tienen detalles claros sobre el proceso de revisión del gobierno, las empresas involucradas en la construcción del marco o la autoridad legal que tienen los funcionarios de Trump para llevar a cabo estas revisiones.
Protect Democracy ha señalado que las decisiones sobre qué modelos de IA se aprueban y lanzan son posiblemente la cuestión política más importante de esta administración. Al menos una empresa de IA, OpenAI, ha negociado un acuerdo privado con el gobierno para limitar la distribución de sus modelos de IA a socios aprobados por el gobierno. La demanda busca una orden que obligue a los funcionarios a proporcionar toda la información solicitada antes del 30 de septiembre, incluyendo la arquitectura procedimental y contractual no clasificada, los términos de participación, la identidad de los participantes y el proceso y criterios por los cuales se concede o niega el acceso a los modelos de vanguardia.
Protect Democracy también ha expresado su preocupación de que el marco podría ser «corrupto», con funcionarios favoreciendo despliegues rápidos para empresas de IA afines a Trump. Además, el público ha sido testigo de represalias de Trump contra una empresa de IA por ser demasiado progresista, como lo demuestra un fallo reciente que declaró ilegal que Trump incluyera a Anthropic en una lista negra.
Con el avance de la tecnología de IA y el aumento de los riesgos de ciberseguridad, el público no puede permitirse confiar ciegamente en que Trump actúe de buena fe al elegir qué modelos deben ser rigurosamente probados. La falta de transparencia podría significar que las vulnerabilidades descubiertas en el mundo real se deban a que las agencias no completaron una revisión adecuada o utilizaron pruebas desactualizadas o ineficaces.
El representante de EE.UU. Greg Casar ha acusado a Trump de «fallar completamente en mantenernos a salvo de los peligros de la IA» mientras recibe «millones de los multimillonarios de la IA». En contraste, el senador estatal de California Josh Becker ha apoyado la demanda de Protect Democracy, destacando que California está considerando un proyecto de ley que establecería un proceso público para los estándares de seguridad de IA.