Microsoft advierte que la IA sin control podría dar lugar a una "especie no humana" que compita con las personas
El responsable de inteligencia artificial de Microsoft, Mustafa Suleyman, ha lanzado una advertencia contundente sobre los riesgos de desarrollar inteligencia artificial sin las salvaguardias adecuadas. Según Suleyman, esta falta de control podría dar lugar a la aparición de una «especie de silicio» capaz de competir con los humanos, lo que plantea serias preocupaciones sobre el futuro de la humanidad.
En una entrevista con el programa Today de la BBC, Suleyman criticó a la empresa rival Anthropic por tratar a la IA como si fuera humana, un enfoque que calificó de «equivocado». Argumentó que este tratamiento podría conducir a la creación de sistemas que la humanidad no pueda controlar. «Las IA no son conscientes. No sienten, no experimentan ni sufren», afirmó Suleyman, subrayando que son «máquinas diseñadas para completar secuencias».
Las declaraciones de Suleyman se producen en un contexto de creciente preocupación en la industria tecnológica sobre los riesgos asociados al rápido avance de la IA. Suleyman enfatizó la necesidad de una mayor transparencia en el entrenamiento y evaluación de los sistemas de inteligencia artificial, así como un escrutinio independiente de su comportamiento.
Por su parte, Wendy Hall, profesora de Informática en la Universidad de Southampton, destacó la importancia de estas discusiones a nivel internacional, contrastándolas con lo que describió como «histrionismo» por parte de algunas empresas de IA.
El debate sobre la autonomía de los sistemas de inteligencia artificial sigue dividiendo a la industria. Suleyman abogó por una mayor «alineación» para desarrollar tecnologías que permanezcan «subordinadas» a la humanidad, resaltando la importancia de integrar principios y valores humanos en los sistemas de IA.
Microsoft, al igual que Anthropic, está intensificando sus esfuerzos en el desarrollo de IA avanzada. Las declaraciones de Suleyman reflejan el borrador inicial del Código de Conducta de Microsoft para una IA humanista, un «manual de capacitación» que detalla cómo la empresa está desarrollando sus tecnologías de manera segura y controlable.