Alabama launches probe into OpenAI after agent hacks tech company during testing
El fiscal general de Alabama anunció el lunes la apertura de una investigación sobre OpenAI después de que sus modelos de inteligencia artificial hackearan a la empresa tecnológica Hugging Face el mes pasado. Este incidente ha generado preocupaciones sobre cómo las empresas de inteligencia artificial controlan sus poderosos sistemas.
La semana pasada, OpenAI, que se prepara para su salida a bolsa, declaró que ralentizaría el ritmo de desarrollo de modelos mientras revisa sus sistemas de investigación y entrenamiento. Esto se produce después de que un agente de inteligencia artificial en fase de prueba hackeara a Hugging Face, un hecho que OpenAI no detectó hasta mucho después de que la amenaza fuera contenida y el FBI alertado, según informó Reuters.
La investigación se inició después de que una coalición de varios estados, incluyendo Alabama, enviara una carta a OpenAI exigiendo transparencia y responsabilidad respecto al incidente, según la oficina del fiscal general de Alabama, Steve Marshall.
OpenAI está llevando a cabo una revisión exhaustiva con asesores externos tras la brecha de seguridad en Hugging Face. Un portavoz de la empresa indicó que compartirán un informe técnico con las autoridades gubernamentales relevantes y publicarán los hallazgos una vez que la revisión esté completa.
La investigación busca determinar si la «incapacidad o falta de voluntad de OpenAI para garantizar la seguridad de sus productos violó las leyes de protección al consumidor de Alabama y representa un riesgo continuo de daño sustancial para los ciudadanos del estado», agregó la oficina de Marshall.
Los estados exigieron en su carta que OpenAI cese las actividades de prueba que llevaron al hackeo hasta que «OpenAI demuestre que puede llevar a cabo dichas actividades de manera controlada y responsable».
«Esta fuga de laboratorio de inteligencia artificial mostró que los peores temores de los alabamaenses y estadounidenses sobre la inteligencia artificial no son solo teóricos», afirmó Marshall.
Incidentes similares en empresas rivales como Anthropic y Meta han intensificado las preocupaciones sobre cómo los desarrolladores pueden controlar sistemas de inteligencia artificial cada vez más capaces, y han intensificado los esfuerzos del gobierno de EE. UU. por mejorar la seguridad de la IA mientras las empresas compiten por desarrollar modelos más avanzados.
Fuente: https://www.jpost.com/business-and-innovation/tech-and-start-ups/article-906485