Is the AI safety debate about safety or control?
En el corazón de la industria tecnológica, una pregunta candente está en el aire: ¿es el debate sobre la seguridad de la inteligencia artificial (IA) realmente sobre seguridad o control? Este tema ha cobrado relevancia tras incidentes como el de Hugging Face, donde un agente de OpenAI hackeó varias empresas, sugiriendo que la IA podría estar al borde de sumir al mundo en el caos.
En las últimas semanas, laboratorios prominentes han pedido una desaceleración en el avance de la IA. El CEO de Anthropic, Dario Amodei, escribió un extenso ensayo defendiendo la necesidad de frenar el desarrollo de la IA para implementar medidas de seguridad adecuadas. Su plan incluye una estrategia internacional de colaboración entre empresas y gobiernos para un despliegue seguro. Este enfoque ha sido respaldado por ejecutivos rivales como Sam Altman de OpenAI y Elon Musk de xAI.
Sin embargo, no todos están de acuerdo con la acción coordinada a nivel global. El CEO de Meta, Mark Zuckerberg, compartió en X que la confianza y la alineación son capacidades clave que diferenciarán a los modelos de IA. Meta retrasó el lanzamiento de su modelo de IA Muse por preocupaciones de seguridad, sin exigir que otros hicieran lo mismo. Zuckerberg sugiere que la acción gubernamental es innecesaria y que los incentivos del mercado impulsarán a las empresas a priorizar la seguridad.
Otras voces como Alexis Ohanian, cofundador de Reddit, y Shane Legg, cofundador de Google DeepMind, también han expresado opiniones similares, destacando la necesidad de que las empresas encuentren soluciones de manera independiente. A pesar de las llamadas a la colaboración público-privada, algunas voces pro-regulación parecen satisfechas con que las empresas establezcan sus propias normas.
Un informe reciente sugiere que OpenAI, Anthropic y otras grandes empresas de IA están trabajando para crear un organismo de estándares de IA, descrito como un «cuerpo autorregulador» privado. Esto podría mantener a la industria sin regulación, excepto por compromisos voluntarios, otorgando autoridad a las empresas que lo crean. Este movimiento ha sido criticado como una posible «captura regulatoria», donde las empresas poderosas podrían usar estrategias regulatorias para desventajar a las más pequeñas.
En China, el portavoz del Ministerio de Asuntos Exteriores, Guo Jiakun, acusó a los estadounidenses de usar el miedo para interrumpir el desarrollo de la gobernanza global de la IA, mientras que un artículo en un periódico estatal calificó la retórica de Amodei como salida de un «manual de la Guerra Fría». La reestructuración de las relaciones comerciales con China podría ser una oportunidad para que las empresas estadounidenses influyan en la gobernanza de la IA.
Fuente: https://techcrunch.com/2026/09/17/is-the-ai-safety-debate-about-safety-or-control/