Las empresas de inteligencia artificial aseguraron ante la ONU que necesitan supervisión estatal: “Los peligros son reales e inminentes”
Los líderes de las principales empresas de inteligencia artificial (IA) del mundo han advertido al Consejo de Seguridad de las Naciones Unidas sobre la necesidad urgente de una supervisión estatal más estricta. En una sesión convocada por Francia durante la Asamblea General de la ONU, directivos de OpenAI, Anthropic y Hugging Face se reunieron en un evento sin precedentes para discutir el impacto de la IA en la seguridad global.
Dario Amodei, director ejecutivo de Anthropic, señaló que «si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto». Sam Altman, de OpenAI, coincidió en la gravedad del momento, afirmando que «podríamos perder el control del futuro frente a la IA». Ambos ejecutivos subrayaron que ningún país o empresa puede gestionar solo los riesgos de la IA y pidieron salvaguardas internacionales para evitar la concentración de poder en pocas manos.
Amodei destacó que, a medida que los modelos de IA se vuelven más poderosos, «se requerirán estándares de seguridad aún más estrictos». Propuso que las naciones acuerden prohibir que la IA fabrique armas biológicas y que se establezcan mecanismos para verificar las capacidades reales de los modelos. Altman advirtió que los sistemas de IA podrían avanzar más rápido que las instituciones reguladoras, insistiendo en que las decisiones sobre la IA deben ser democráticas y no quedar en manos de laboratorios en San Francisco.
El científico canadiense Yoshua Bengio, copresidente del Panel Científico Internacional Independiente de la ONU, respaldó estas advertencias, afirmando que «los peligros son reales e inminentes» y que la amenaza es sin precedentes.
Sin embargo, las advertencias chocaron con la postura del gobierno estadounidense. El presidente Donald Trump rechazó cualquier intento de regulación internacional de la IA, calificándolo de «esquema globalista». Michael Kratsios, asesor de Ciencia y Tecnología de la Casa Blanca, argumentó que «no se puede gobernar una tecnología que no se comprende» y llamó a compartir mejores prácticas en lugar de establecer regulaciones globales.
Este contraste fue evidente con la posición de otros gobiernos. El canciller francés Jean-Noël Barrot comparó la situación actual de la IA con los inicios de la era atómica, instando a la comunidad internacional a regular la IA para aprovechar su potencial y evitar lo peor. Por su parte, Ed Miliband, secretario de Relaciones Exteriores del Reino Unido, apoyó las advertencias de los ejecutivos, subrayando que «no podemos ignorarlos porque tienen razón».