“La IA tiende a concentrar el poder”: el CEO de Anthropic cree que la solución es regular a empresas como la suya
Este fin de semana, el debate sobre la regulación de la inteligencia artificial (IA) se encendió en la red social X, impulsado por declaraciones de Gavin Baker, un conocido inversor de Silicon Valley. Baker, durante el pódcast de ‘All-In’, afirmó haber escuchado que Dario Amodei, CEO de Anthropic, había sugerido que su compañía podría convertirse en la única empresa privada en pie, con los gobiernos como los únicos otros actores restantes. Esta declaración provocó un intenso intercambio de opiniones entre figuras relevantes del sector, como Sholto Douglas de Anthropic y Yann LeCun, científico jefe de IA en Meta.
Sholto Douglas se apresuró a desmentir las afirmaciones de Baker, calificándolas de «completamente falsas». Douglas recordó el ensayo de Amodei del pasado enero, en el que el CEO de Anthropic expresaba su preocupación por la concentración económica del poder, no como un objetivo de la empresa. A pesar de que Baker se retractó, criticó que la regulación propuesta por Amodei podría concentrar el poder en «unas pocas empresas y políticos elegidos», citando a Mark Zuckerberg sobre los riesgos de un poder concentrado benevolente.
Amodei respondió al debate afirmando que la disyuntiva entre regular la IA o distribuirla ampliamente es una falsa elección. Según él, unas reglas bien diseñadas podrían frenar a los laboratorios de IA más grandes mientras se da más margen a los competidores pequeños. Anthropic apoya un proyecto de ley en California que impone requisitos de transparencia a las grandes empresas de IA. Además, Amodei defendió sus propuestas de pruebas previas al despliegue de modelos avanzados y un organismo de supervisión independiente, como parte de sus esfuerzos por validar la regulación de la IA.
El científico jefe de IA de Meta, Yann LeCun, se unió al debate, defendiendo que la IA debería ser «abierta, distribuida y diversa por defecto», comparándola con la imprenta e Internet. Este debate refleja una creciente preocupación sobre quién debería controlar la IA y cómo debería regularse para evitar la concentración de poder.