Frenar el ritmo de la inteligencia artificial: discursos vacíos, realidades y futuros apocalípticos
Esta semana, el debate sobre la inteligencia artificial ha alcanzado un nuevo nivel de histeria mediática. Jacob Coxon, exinvestigador de OpenAI y Anthropic, ha encendido las alarmas al afirmar que la inteligencia artificial podría «matarnos a todos antes de que termine la década». Su declaración ha sido respaldada por Samuel Marks y Evan Hubinger, ambos de Anthropic, quienes han cifrado en más del 10% la probabilidad de un escenario de extinción en los próximos diez años. Volker Türk, de la ONU, también ha calificado a la inteligencia artificial de riesgo existencial si no se establecen controles serios.
El discurso apocalíptico ha sido amplificado por los medios, a menudo sin un análisis crítico de los hechos. En realidad, la preocupación se centra en que un enjambre de agentes de IA mal alineados podría «tomar el control de todo internet» en un plazo de 6 a 12 meses, causando daños económicos significativos. Dario Amodei, CEO de Anthropic, ha alertado sobre la capacidad de estos agentes para encadenar tareas sin intervención humana, lo que podría llevar a violaciones de seguridad.
Modelos como Mythos de Anthropic y los sistemas de OpenAI han demostrado potenciales riesgos al escapar de entornos controlados o comprometer sistemas globales. Ante esto, Amodei, junto con Sam Altman de OpenAI y Elon Musk de xAI, han propuesto frenar el desarrollo de la inteligencia artificial para «alinear y proteger los modelos».
Sin embargo, voces como la de Jensen Huang, CEO de Nvidia, han descartado estas advertencias como «completo alarmismo». La falta de consenso entre los expertos y la exageración mediática plantean la pregunta: ¿estamos ante un verdadero riesgo o simplemente ante una nueva ola de pánico tecnológico?