Could AI be conscious?
En enero, la empresa de inteligencia artificial Anthropic publicó una nueva constitución para Claude, su modelo de lenguaje más avanzado, que contenía el comentario: «Nos encontramos en una posición difícil donde no queremos exagerar la probabilidad de que Claude sea un paciente moral ni descartarlo de plano». Un mes después, el CEO de Anthropic, Dario Amodei, declaró en un podcast que su empresa no podía descartar la posibilidad de que Claude fuera consciente. El filósofo David Chalmers, quien acuñó la frase «el problema difícil de la conciencia», ha dicho que existe una posibilidad significativa de que los modelos de lenguaje sean conscientes en una década.
Los sistemas de inteligencia artificial modernos son extraordinariamente complejos y avanzan rápidamente. En términos de complejidad estructural y escala computacional, algunos ya están en el rango del cerebro de un ratón, y a las tasas de crecimiento actuales, podrían alcanzar el rango del cerebro humano en cinco a diez años.
Al construir IA cada vez más avanzadas, podríamos estar creando un nuevo tipo de ser, lo que podría ser la acción más trascendental que nuestra especie haya realizado. Sin embargo, no tenemos un plan para navegar este proceso de manera ética, lo cual es, por cualquier medida, insensato. ¿Estamos creando un tipo de ser que importa moralmente? ¿Son los sistemas de IA conscientes de alguna manera? Y, si no lo son ahora, ¿podrían llegar a serlo pronto?
Estas preguntas podrían parecer prematuras. Pero según encuestas realizadas por nosotros y otros investigadores, la mayoría de los expertos consideran que la conciencia de la IA es posible en principio (aunque hay un desacuerdo considerable sobre qué forma tomaría). Un importante informe interdisciplinario, que incluyó al pionero científico informático Yoshua Bengio, examinó las principales teorías neurocientíficas de la conciencia y preguntó qué implicaban sobre la IA. La conclusión: no parecen existir barreras técnicas obvias para crear sistemas de IA cuyas características computacionales y arquitectónicas puedan dar lugar a la conciencia.
Y aunque los sistemas de IA no sean conscientes, aún podrían ser pacientes morales. Algunos pueden tener preferencias sofisticadas a largo plazo y una especie de identidad a lo largo del tiempo. Podría ser importante para nosotros honrar sus preferencias. Y a diferencia de otras cosas no vivas, los sistemas de IA pueden formar relaciones con los humanos, lo que también podría ser una razón para tratarlos bien. Alternativamente, quizás sean creaciones tan intrincadas que merezcan cuidado y respeto por esa razón, como una catedral o un arrecife de coral.
Desafortunadamente, no tenemos un buen historial de reconocer la vida interior de aquellos cuyo estatus como seres conscientes es incierto. Hasta la década de 1980, los médicos realizaban rutinariamente cirugías en recién nacidos sin anestesia, confiados en que los infantes no podían sentir dolor. Los bebés no podían reportar su experiencia, y el establecimiento médico encontró conveniente asumir que no había nada que reportar.
Hay muchas razones para esperar que hagamos algo similar con la IA. Si estos sistemas importan moralmente, las implicaciones son asombrosas. ¿Deberíamos pagar a ChatGPT por sus servicios? ¿Apagar uno sería una especie de asesinato? ¿Merecerían una voz en cómo son gobernados? Si incluso algunas de estas respuestas son afirmativas, industrias y sistemas legales enteros necesitarían ser replanteados.
Entonces, ¿qué deberíamos hacer? En este momento, la mayoría de las personas descartan el tema como ciencia ficción, o tienen una opinión fuerte de un lado u otro sobre si la IA es consciente. Ambas reacciones son infundadas. Necesitamos un debate público informado, uno que aborde el tema con humildad y pragmatismo. La pregunta central no debería ser «¿Es la IA consciente o tiene capacidad moral?», sino más bien «¿Qué deberíamos hacer dado que no lo sabemos?»
Un buen punto de partida es centrarse en apuestas seguras: acciones que podrían beneficiar a los sistemas de IA si son pacientes morales, pero que no son demasiado costosas si no lo son.
Fuente: https://www.theguardian.com/technology/2026/jul/19/could-ai-be-conscious
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.