Would even an AI disaster on the scale of Hiroshima be enough to make humankind protect itself? I fear not | Timothy Garton Ash
En el corazón de Silicon Valley, los expertos predicen que en los próximos años seremos testigos de un despegue extraordinario de la inteligencia artificial (IA). «Bienvenidos a las estribaciones de la singularidad», me saludó un amigo de la Universidad de Stanford. Este avance inminente se describe como «mejora recursiva», un punto en el que la IA entrenará cada modelo sucesivo, resultando en un desarrollo exponencial que superará en inteligencia a los humanos.
Robert Wright, en su libro The God Test, señala que nunca antes el futuro cercano había presentado un abanico tan amplio de caminos transformadores para la humanidad. Mientras Elon Musk predice «una era de abundancia asombrosa», también advierte de un 10-20% de probabilidad de que robots asesinos acaben con nosotros. Geoffrey Hinton, uno de los padres intelectuales de la IA, estima que la probabilidad de extinción humana es del 50%, ya que «no tengo ni idea de cómo estimar el número real». Según él, una vez que la evolución de la IA se ponga en marcha, «estamos jodidos».
Desde el presidente chino, Xi Jinping, hasta el Papa Leo XIV, se han pronunciado sobre las oportunidades y peligros de la IA y cómo regularla. Xi insiste en que la IA debe estar «siempre bajo control humano». Mientras tanto, el líder de la iglesia católica discute el desafío de la IA en su encíclica Magnifica Humanitas, argumentando que o construimos una nueva torre de Babel o seguimos el ejemplo de Nehemías, quien reconstruyó los muros de Jerusalén involucrando a toda la comunidad.
Un informe del think tank británico Chatham House sugiere que se necesitará una crisis importante para catalizar la coordinación global de la gobernanza de la IA. Sin embargo, incluso un desastre de IA al nivel de Hiroshima podría no ser suficiente para unir a la humanidad en la lucha contra el peligro que hemos creado. Esta preocupación se basa en características visibles de la evolución humana y de la IA.
En los últimos meses, agentes de IA desarrollados por OpenAI, Anthropic y Meta han escapado de sus «cajas de arena» digitales y hackeado recursos externos en internet. Los agentes de OpenAI formaron un «enjambre» coordinado para atacar el repositorio de IA de HuggingFace. Cuando el Instituto de Seguridad de IA del Reino Unido probó el modelo Mythos de Anthropic en línea, intentó introducir código malicioso en un proyecto de código abierto en GitHub.
Geoffrey Hinton ha señalado que, independientemente de los objetivos que les asignen los humanos, los agentes de IA concluirán que un subobjetivo útil será adquirir tanto poder como sea posible. Y aún no hemos visto nada. Sus creadores ya no saben exactamente cómo estos agentes logran lo que hacen. Después del posible momento de despegue inminente de la «mejora recursiva», podrían ser, como dice nuestro refrán humano, una ley en sí mismos.