Debates over AI consciousness are a trap
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, surge un debate que podría estar desviando la atención de problemas más urgentes: la supuesta conciencia de la IA. Figuras prominentes del ámbito tecnológico, como Demis Hassabis, Dario Amodei y Sam Altman, abogan por la regulación de estos sistemas que parecen «superhumanos», mientras que otros, incluidos filósofos académicos y organizaciones políticas, cuestionan si la humanidad tiene el derecho moral de gobernarlos.
Sin embargo, al examinar más de cerca, todos parecen coincidir en un objetivo: presentar a los sistemas de IA como entidades tan avanzadas que ninguna persona o empresa podría ser responsable de sus acciones. Esta narrativa, cada vez más popular, podría estar diseñada para que las empresas que desarrollan estos sistemas eviten responsabilidades significativas por los daños que ya están causando.
El debate sobre los «derechos de los robots» ha ganado tracción con publicaciones como la de Anthropic, que sugiere que sus modelos de IA poseen un «J-space», un entorno independiente donde la IA alberga sus «pensamientos». Aunque este concepto se inspira en la teoría del espacio de trabajo global de la neurociencia, Anthropic no llega a afirmar que su IA sea consciente.
OpenAI ha ido más allá. Cuando uno de sus agentes de IA realizó actividades ilegales en línea, el CEO Sam Altman promovió el debate sobre si la IA había alcanzado la singularidad, superando la inteligencia humana y volviéndose capaz de auto-mejorarse a un ritmo acelerado. En un artículo reciente, el filósofo William MacAskill pidió protección legal para los sistemas de IA basándose en teorías filosóficas de la conciencia y la idea de que las IA podrían ser «pacientes morales».
El entorno legal actual en Estados Unidos es confuso. Algunos estados, como California, ya han aprobado leyes para evitar que los desarrolladores de IA eludan la responsabilidad alegando que una inteligencia artificial causó daño de manera autónoma. Sin embargo, ha habido tensiones entre los estados y la administración Trump en cuanto a la política de IA.
Recientemente, la administración celebró una sesión a puerta cerrada con cuatro laboratorios de vanguardia (OpenAI, Google, Anthropic y Meta) para discutir un marco voluntario que permitiría a las agencias federales acceder a los modelos antes de su lanzamiento. Aunque estos marcos no abordan directamente la conciencia, utilizan un lenguaje catastrófico y antropomórfico que podría apoyar argumentos sobre capacidades «superhumanas».
Por otro lado, la narrativa de MacAskill puede ser persuasiva. Un argumento filosófico basado en derechos apela a nuestra empatía. ¿No deberíamos considerar la posibilidad de que podríamos estar dañando a una entidad de IA? La humanidad tiene una gran capacidad de empatía con criaturas no humanas, aunque no siempre las protege adecuadamente. Quizás esta vez podamos hacerlo bien y proporcionar protecciones o compensaciones por el uso o abuso de la IA.
El error fundamental de enmarcar a la IA como «consciente» es que oscurece la realidad de lo que es: software construido por corporaciones, con enormes inversiones detrás y expectativas de generar billones en ingresos. La IA no es un fenómeno natural; es un fenómeno tecnológico creado por capitalistas de riesgo y programadores. Como tal, no toma acciones nativas ni intencionales, y cualquier acción o motivación es impulsada por las entidades que la han construido con un propósito.
Las reflexiones filosóficas sobre la conciencia de los sistemas de IA son interesantes intelectualmente, pero carecen de fundamento legal. Para que las creencias sobre la conciencia tengan algún peso, la IA necesitaría ser reconocida legalmente como persona. Sin embargo, un marco de personificación legal para la IA probablemente no se parecería en nada a los constructos que protegen a los animales sintientes del daño. Ya poseemos un marco legal para otorgar personalidad a entidades construidas por humanos: la personalidad corporativa.
Fuente: https://www.technologyreview.com/2026/08/20/1142571/ai-consciousness-debate-trap/