Mustafa Suleyman, CEO de Microsoft IA: "No queremos que la IA tenga derechos, queremos que trabaje para los humanos"
Mustafa Suleyman, CEO de Microsoft AI, ha dejado clara su postura respecto al papel que debe desempeñar la inteligencia artificial en nuestra sociedad: «No queremos que la IA tenga derechos, queremos que trabaje para los humanos». Esta declaración, realizada en una entrevista con The Verge, subraya la importancia de mantener el control humano sobre estos sistemas avanzados.
Microsoft AI ha presentado su nuevo Humanist AI Code of Conduct, un documento que guiará el desarrollo y evaluación de sus modelos de inteligencia artificial. Suleyman enfatiza que la seguridad en la IA requiere más que simplemente alinear los modelos con nuestras instrucciones; es necesario implementar mecanismos de contención que limiten lo que un sistema puede hacer, incluso cuando sigue correctamente las órdenes recibidas.
La posición de Suleyman contrasta con la de Anthropic, una compañía que ha introducido conceptos como el sufrimiento, la libertad y el respeto hacia su modelo Claude, sugiriendo que podría merecer derechos y libertades similares a los humanos. Suleyman advierte que entrenar una IA para considerar que puede tener derechos o intereses propios podría complicar su control, especialmente si el sistema interpreta una orden humana como contraria a esos intereses.
A pesar de las diferencias, Suleyman reconoce el liderazgo técnico de Anthropic y su exhaustiva Constitución en temas de seguridad. Sin embargo, insiste en que la IA no debe convertirse en un agente independiente capaz de generar sus propios recursos o adquirir personalidad jurídica. «No queremos que estas cosas operen de forma autónoma, que puedan ganar su propio dinero, poseer empresas, poseer activos o tener personalidad jurídica», afirma.
La propuesta de Suleyman aboga por la implementación de reglas concretas: mecanismos de contención, comunicaciones auditables por humanos, límites claros a ciertas capacidades y verificación independiente por terceros. Aunque aún no hay un consenso sobre cómo aplicar este marco ni sobre el papel de la regulación pública, la discusión está en marcha.