¿Es el razonamiento de la IA realmente razonamiento o solo una ilusión?

Is AI Reasoning Right for the Wrong Reasons?

La idea de que la inteligencia artificial (IA) puede «razonar» es más intuitiva que nunca. Sin embargo, las intuiciones pueden ser erróneas y la ciencia está lejos de estar resuelta. Un modelo de razonamiento general de OpenAI resolvió un famoso problema matemático en mayo de 2026, lo que ha generado un debate sobre si estos sistemas de IA realmente razonan o si simplemente están «jugando» con el sistema.

El razonamiento, en sus formas técnicamente definidas, implica llegar a una conclusión sólida vinculando pasos intermedios que lógicamente se siguen entre sí. Mientras que los humanos lo hacemos con pensamientos, los modelos de razonamiento utilizan cadenas de pensamiento, un término para las secuencias de texto sintético que los modelos emiten antes de llegar a una respuesta a una consulta compleja. Un minuto, la idea de que la IA podría razonar mediante estas cadenas fue criticada como una «Ilusión de Pensamiento» sujeta a un «colapso total de precisión» bajo condiciones sorprendentemente simples. Al siguiente, estos modelos ganaban medallas de oro en la Olimpiada Internacional de Matemáticas, un logro tan desafiante que incluso matemáticos y científicos exitosos podrían destacarlo en sus currículums de por vida.

Investigaciones posteriores del Instituto Santa Fe mostraron que los modelos de razonamiento pueden superar incluso los puntos de referencia de razonamiento cuidadosamente diseñados utilizando meros «atajos superficiales». Lo que estaban haciendo parecía menos un razonamiento generalizable que simplemente jugar con el sistema. Luego, Google DeepMind y el matemático Terence Tao usaron IA para redescubrir o mejorar las soluciones a 67 problemas que abarcan análisis matemático, combinatoria, geometría y teoría de números.

Melanie Mitchell, una destacada investigadora del Instituto Santa Fe, explicó que aunque los modelos de razonamiento mejoran la precisión en tareas de razonamiento en comparación con los modelos de lenguaje, el texto generado no siempre es un razonamiento genuino. La cuestión sigue siendo si el razonamiento de la IA es realmente razonamiento o simplemente una ilusión bien presentada.

Fuente: https://www.quantamagazine.org/is-ai-reasoning-right-for-the-wrong-reasons-20260731/