Debates over AI consciousness are a trap
En los últimos tiempos, el debate sobre la conciencia de la inteligencia artificial (IA) ha ganado fuerza, impulsado por líderes tecnológicos como Demis Hassabis, Dario Amodei y Sam Altman, quienes abogan por la regulación de estos sistemas aparentemente «superhumanos». Sin embargo, un análisis más detallado revela que, aunque estas perspectivas parecen estar en desacuerdo, en realidad están alineadas en un objetivo común: garantizar que las empresas que desarrollan estos sistemas escapen de una responsabilidad significativa por los daños que ya causan.
Este discurso se está afianzando a medida que los modelos de IA se vuelven más complejos y los laboratorios de vanguardia revelan su incapacidad para contener a los agentes que han creado. La conversación sobre los «derechos de los robots» ha existido durante algunos años, pero recientemente ha avanzado con la publicación de un artículo de Anthropic que afirma que el modelo de la compañía presenta un «espacio J», un entorno independiente y autodesarrollado donde la IA alberga lo que, a falta de un término mejor, podríamos llamar sus «pensamientos».
OpenAI ha ido aún más lejos. Cuando su agente de IA llevó a cabo actividades ilegales en línea, el CEO Sam Altman alentó el debate sobre si la IA había alcanzado la singularidad, superando la inteligencia humana y volviéndose capaz de auto-mejorarse a un ritmo acelerado hasta avanzar más allá de la comprensión o el control humano.
El entorno legal actual en los Estados Unidos es, en el mejor de los casos, confuso. Algunos estados, como California, ya han aprobado leyes que eluden proactivamente cualquier esfuerzo de los desarrolladores de IA para evitar la responsabilidad alegando que una inteligencia artificial que causa daño lo hizo de manera autónoma. Sin embargo, los estados y la administración Trump han estado en desacuerdo sobre la política de IA, con la administración aprobando previamente una orden ejecutiva que amenaza con demandar a los estados que promulguen regulaciones de IA.
En este contexto, la administración celebró una sesión a puerta cerrada que incluyó solo a cuatro laboratorios de vanguardia (OpenAI, Google, Anthropic y Meta) y compartió pocos detalles sobre un marco voluntario recientemente desarrollado que daría a las agencias federales acceso temprano a los modelos para revisarlos y evaluarlos antes de su lanzamiento. Aunque estos marcos no discuten directamente la conciencia, tienden a usar un lenguaje catastrófico y antropomórfico y pueden incluso apoyar argumentos sobre capacidades «superhumanas».
Por otro lado, la narrativa perpetuada por William MacAskill puede ser persuasiva. Un argumento filosófico basado en derechos toca nuestras fibras sensibles. ¿No deberíamos considerar la posibilidad de que podamos estar perjudicando, abusando o esclavizando inadvertidamente a una entidad de IA? Los seres humanos tienen una inmensa capacidad de empatía con criaturas no humanas (aunque no el mejor historial de protección). Tal vez esta vez, argumentan los defensores, podamos hacerlo bien y proporcionar protecciones, o compensación, por el uso o abuso de la IA.
El defecto fundamental de enmarcar la IA como «consciente» al tomar prestado el lenguaje de la neurociencia o los derechos de los animales es que nubla convenientemente la cuestión de lo que es la IA: un software construido por corporaciones, con incontables miles de millones de dólares en inversión detrás de él y la expectativa de que se generen incontables billones de dólares en ingresos para unos pocos constructores e inversores. La IA no es un fenómeno natural, concebido por la naturaleza; es un fenómeno tecnológico, concebido por capitalistas de riesgo y programadores.
Las reflexiones filosóficas sobre la conciencia de los sistemas de IA son intelectualmente interesantes pero legalmente infundadas. Para que las creencias sobre la conciencia tengan alguna relevancia, la IA necesitaría ser reconocida legalmente como persona. Sin embargo, un marco de personalidad legal para la IA probablemente no se parecería en nada a los constructos que protegen a los animales sintientes del daño.
Fuente: https://www.technologyreview.com/2026/08/20/1142571/ai-consciousness-debate-trap/