New York City Council AI hearing on Monday to feature testimony from top tech executives
El Consejo de la Ciudad de Nueva York celebrará una audiencia inusual el lunes para interrogar a las principales empresas tecnológicas sobre la seguridad de la inteligencia artificial (IA). Esta audiencia completa examinará los riesgos asociados y revisará varias propuestas legislativas. Ejecutivos de OpenAI, Google, Anthropic y Meta testificarán en una sesión que, según la presidenta Julie Menin, «examinará urgentemente los riesgos que plantea la inteligencia artificial».
El concejal Oswald Feliz, presidente del Comité de Seguridad Pública, expresó su preocupación por la falta de regulaciones claras. «Recientemente, escuchamos del gobierno federal que básicamente han creado un comité de unas 10 personas para autorregularse», comentó Feliz. Menin añadió que estas empresas tienen una presencia significativa en Nueva York, empleando a decenas de miles de neoyorquinos, y que deben responder directamente a los 8.5 millones de habitantes de la ciudad.
La audiencia se produce tras semanas de advertencias serias por parte de denunciantes y ejecutivos de IA, y reportes de agentes de IA que ya han dañado bases de datos gubernamentales. Nathaniel Bradley, CEO de Datavault AI, apoya la supervisión gubernamental, afirmando que «nos dirigimos hacia un salto cuántico para el cual muchos no están preparados».
El CEO de Anthropic, Dario Amodei, también está de acuerdo en que las empresas deben colaborar para establecer estándares de seguridad. En una carta al Consejo de la Ciudad, un ejecutivo de OpenAI mencionó que «probamos modelos para detectar capacidades peligrosas y comportamientos preocupantes, fortalecemos la seguridad y monitoreamos fallos en nuestras salvaguardas».
Meta, por su parte, declaró que está trabajando para hacer que la superinteligencia personal sea ampliamente accesible, asegurando que la seguridad es fundamental en todo lo que hacen. El concejal Feliz mencionó que el consejo está considerando 10 piezas de legislación, incluyendo el derecho a demandar directamente a estas empresas y la verificación de las mismas para que puedan ser apagadas por un operador humano.
El Consejo también ha emitido una citación para obligar a funcionarios de SpaceXAI, propiedad de Elon Musk, a testificar. Además, se considerará un proyecto de ley que incentivaría a los neoyorquinos a denunciar a las empresas que no cumplan con las leyes, incluyendo un programa de denunciantes pionero en la nación.
Fuente: https://www.cbsnews.com/newyork/news/new-york-city-council-artificial-intelligence-hearing/