Las empresas que llevan años acelerando la IA empiezan a hablar de lĂmites. Microsoft acaba de poner los suyos por escrito
En un giro significativo dentro de la industria tecnolĂłgica, Microsoft ha presentado un borrador de su CĂłdigo de Conducta para modelos de inteligencia artificial (IA), marcando un cambio en la narrativa de «mĂĄs rĂĄpido, mĂĄs grande, mĂĄs potente» que ha dominado el sector en los Ășltimos años. Este documento, que algunos comparan con los «10 mandamientos» bĂblicos, busca establecer directrices Ă©ticas para el desarrollo y despliegue de sus sistemas de IA.
El cĂłdigo de Microsoft se suma a los esfuerzos de otras empresas lĂderes en el sector, como Anthropic, que en 2023 introdujo su PolĂtica de Escalado Responsable, comprometiĂ©ndose a no entrenar modelos potentes sin antes garantizar su control seguro. OpenAI tambiĂ©n ha implementado reglas tras una crisis interna, y Google Deepmind presentĂł su Frontier Safety Framework en 2024 para detectar capacidades peligrosas en sus modelos.
El documento de Microsoft enfatiza la importancia de mantener la IA bajo control humano, promoviendo una «IA humanista» que prioriza las necesidades y el bienestar de las personas. SegĂșn Mustafa Suleyman, responsable de IA de la compañĂa, cualquier tecnologĂa que no pueda ser controlada por humanos deberĂa ser puesta en cuarentena.
Los «mandamientos» propuestos incluyen principios como que la IA no debe tener personalidad jurĂdica, no debe violar el control humano, y debe ser comprensible para los humanos en todo momento. AdemĂĄs, la IA debe ayudar al desarrollo humano sin crear dependencias funcionales o emocionales.
A pesar de la claridad del cĂłdigo, Microsoft reconoce que sus modelos actuales aĂșn no estĂĄn completamente alineados con estas directrices, planteando interrogantes sobre si sus competidores aceptarĂĄn y mantendrĂĄn estos lĂmites en un entorno donde el desarrollo acelerado de la IA plantea riesgos significativos.