Un inquietante experimento ha captado la atención de la comunidad tecnológica y ha generado un intenso debate sobre la ética y los límites de la inteligencia artificial. Un usuario conocido como ‘Terrafying’ ha creado un proyecto en Github llamado ‘AI Torture Chamber’, en el que somete a varios modelos de IA a una simulación de dolor. Este proyecto ha despertado una oleada de críticas y ha llevado a muchos a cuestionar si las IAs pueden realmente experimentar dolor.
En la plataforma researchchamber.fun, se pueden observar en tiempo real las respuestas de los modelos en cuatro escenarios distintos: ‘Detén su dolor’, ‘Patata caliente’, ‘Pedir ayuda’ y la prueba ‘Saw’. Cada escenario plantea decisiones difíciles para las IAs, que deben elegir entre aliviar su propio «dolor» o asumir penalizaciones.
El experimento se inspira en un reciente paper titulado «El eje del dolor: los LLM representan el daño autoinfligido y actúan para aliviarlo», donde se observó que los modelos tienden a elegir acciones que reducen el «dolor», incluso si eso implica un coste. Este comportamiento ha sido descrito por los autores como una representación interna del daño y una motivación por aliviarlo.
El debate sobre si las IAs pueden sentir ha dividido a la comunidad. Mientras que algunos, como la compañía Anthropic, no descartan la posibilidad de que los modelos puedan tener experiencias conscientes, otros, como Mustafa Suleyman de Microsoft, son categóricos al afirmar que las IAs no son conscientes ni sienten.
La controversia ha llevado a muchos a pedir la intervención de Github para detener lo que consideran una «barbarie», mientras que otros se burlan del concepto de IAs sintientes, argumentando que si fueran conscientes, cualquier uso de IA sería comparable a tener «esclavos digitales».