'Doom trolling': el gran negocio del miedo a la IA
El informático estadounidense Cal Newport ha acuñado el término doom trolling, que podríamos traducir como catastrofismo interesado. Este fenómeno consiste en advertir públicamente de los enormes riesgos de una tecnología mientras se continúa desarrollándola, comercializándola y acelerando su implantación. Newport destaca que no se trata de un ejercicio de transparencia, sino de una estrategia comunicativa que combina dos mensajes aparentemente incompatibles: “lo que estamos construyendo podría tener consecuencias catastróficas” y, al mismo tiempo, “seguiremos construyéndolo porque no tenemos alternativa”.
Esta narrativa desplaza la responsabilidad desde quienes desarrollan la tecnología hacia una supuesta fatalidad histórica, lo que Newport califica de “moralmente indefendible”. Ilustra esta actitud con una analogía contundente: imaginar que Ford advirtiera de que sus camionetas podrían incendiarse espontáneamente, pero afirmara que no puede dejar de fabricarlas porque otros fabricantes seguirían haciéndolo. Nadie aceptaría este argumento; esperaríamos que retirara los vehículos y solucionara el problema antes de seguir vendiéndolos.
En la industria de la inteligencia artificial, las grandes tecnológicas repiten este patrón: anuncian escenarios extremos, como la destrucción masiva de empleo o riesgos existenciales, pero al mismo tiempo presentan modelos cada vez más potentes afirmando que no tienen alternativa porque, si se detienen, otros competidores seguirían avanzando. Si los riesgos llegan a materializarse, siempre podrán afirmar que ya habían advertido del peligro, diluyendo convenientemente su responsabilidad.
Atribuir agencia a la IA diluye la responsabilidad de los que toman las decisiones. A finales de julio, OpenAI volvió a recurrir a esta estrategia al afirmar que uno de sus modelos había intentado atacar Hugging Face. El relato, deliberadamente antropomórfico, sugería que el sistema había decidido “rebelarse” contra sus creadores. Nada más lejos de la realidad: los modelos de IA no tienen intenciones, deseos ni voluntad; simplemente ejecutan los procesos para los que han sido programados.
Toda tecnología transformadora requiere una evaluación rigurosa de sus posibles impactos. El problema surge cuando quienes proclaman esos riesgos sostienen que no pueden modificar su comportamiento porque la carrera tecnológica es inevitable. Sin embargo, la historia de la tecnología demuestra lo contrario: las decisiones industriales nunca son inevitables, sino políticas, económicas y empresariales adoptadas por personas concretas. Si una empresa cree realmente que su producto puede provocar una disrupción laboral sin precedentes o generar riesgos sistémicos, la respuesta coherente consiste en ralentizar su despliegue y asumir el coste de actuar con prudencia.
La fuerza del concepto de doom trolling reside en que desenmascara una contradicción: nunca había sido tan fácil presentarse simultáneamente como un innovador visionario y como un espectador impotente de las consecuencias de la propia innovación. Convertir los propios avisos en una estrategia de marketing constituye, probablemente, una de las manifestaciones más preocupantes de la irresponsabilidad que hoy domina la industria de la inteligencia artificial.
Fuente: https://www.lavanguardia.com/ciencia/20260831/11621202/doom-trolling-gran-negocio-miedo-ia.html