Trump may be forced to reveal secret rules feds use for AI safety testing
La administración Trump podría verse forzada a desvelar el marco secreto que utiliza para realizar revisiones de seguridad en modelos de inteligencia artificial (IA) de vanguardia antes de su lanzamiento. Cuatro agencias federales han sido demandadas en medio de llamados para liberar esta información crucial. Según Protect Democracy, una organización sin fines de lucro no partidista, «casi no se han revelado detalles» al público o al Congreso sobre este proceso de revisión. Solo unos pocos «socios confiables» conocen los pormenores.
El grupo ha presentado una demanda buscando una orden que obligue a los funcionarios a proporcionar toda la información solicitada antes del 30 de septiembre. Esto incluye la «arquitectura procedimental y contractual no clasificada: el texto del marco, los términos de participación, la identidad de los participantes y el proceso y criterios por los cuales se otorga o retiene el acceso a los modelos de vanguardia». También buscan una orden judicial que impida a los funcionarios retener indebidamente registros que no están clasificados.
Protect Democracy alega que el marco podría ser «corrupto», con funcionarios favoreciendo despliegues rápidos para empresas de IA que Trump prefiere. Además, el público ya ha visto a Trump tomar represalias contra una empresa de IA por ser demasiado progresista. En un reciente fallo judicial, se declaró ilegal que Trump incluyera a Anthropic en una lista negra.
Con el avance de la tecnología de IA y el aumento de los riesgos de ciberseguridad, como el reciente hackeo del modelo de OpenAI a Hugging Face, el público no puede permitirse confiar ciegamente en que Trump actúe de buena fe al elegir qué modelos deben ser rigurosamente probados. Protect Democracy enfatiza que el público merece saber qué contiene el marco.
El representante estadounidense Greg Casar acusó a Trump de «fallar completamente en protegernos de los peligros de la IA» mientras «recibe millones de multimillonarios de la IA». Por otro lado, el senador estatal de California Josh Becker ha instado al tribunal a conceder la solicitud de Protect Democracy, destacando que California está considerando un proyecto de ley que haría transparentes los estándares de seguridad de la IA.