Why AI researchers warn humanity could face extinction
Las advertencias dramáticas sobre los riesgos existenciales que la inteligencia artificial (IA) podría representar para la humanidad no son nuevas. Desde la década de 1940, el renombrado científico y autor de ciencia ficción Isaac Asimov exploró los riesgos potenciales y las consecuencias no deseadas de las máquinas inteligentes. En 1991, la película de Hollywood «Terminator 2» imaginó un 2029 distópico en el que una IA militar descontrolada llamada Skynet dirigía robots asesinos en una guerra contra la humanidad.
Si se cree en las advertencias de varios de los nombres más importantes en el campo de la IA, un escenario similar podría convertirse en realidad, incluso antes de 2029. El investigador de IA Jacob Coxon publicó en X la semana pasada que «las personas que construyen IA creen sinceramente que podría matarnos a todos para finales de la década», sin explicar exactamente cómo podría suceder.
Coxon también reveló que había renunciado a su trabajo en Anthropic, una empresa de IA con sede en EE. UU., en protesta por lo que veía como una carrera irresponsable entre las empresas de IA para desarrollar una superinteligencia cada vez mejor y auto-mejorable. Advirtió que los algoritmos podrían comenzar a analizar y mejorar su propio código fuente de forma independiente, lo que podría reducir los ciclos de desarrollo de varios meses a solo unos minutos y, por lo tanto, hacerlos incontrolables.
Coxon no es una voz aislada. El físico ganador del Premio Nobel Geoffrey Hinton, a menudo llamado el «Padrino de la IA», ha estado advirtiendo durante años sobre las graves consecuencias de la superinteligencia artificial. En 2023, dejó su trabajo en Google para advertir públicamente sobre los peligros de las tecnologías de IA que ayudó a desarrollar. Yoshua Bengio, un pionero de las redes neuronales artificiales y el aprendizaje profundo, también ha expresado su preocupación por los desarrollos actuales y ha pedido una regulación gubernamental.
A pesar de las crecientes advertencias, la administración del presidente de EE. UU., Donald Trump, ha cambiado claramente su política de IA hacia la minimización de obstáculos regulatorios y la aceleración del desarrollo de IA. En su publicación en X, Jacob Coxon criticó indirectamente las consecuencias de esta política.
El CEO de Anthropic, Dario Amodei, por su parte, está pidiendo actualmente una desaceleración coordinada en toda la industria para ganar tiempo para abordar los riesgos y prevenir cualquier uso indebido de la IA. En un extenso ensayo compartido en X durante el fin de semana, escribió que en seis a 12 meses, los agentes de IA «podrían ser capaces de tomar el control de todo Internet» y potencialmente causar «cientos de miles de millones de dólares en daños» sin las salvaguardias adecuadas.
En los últimos años, numerosos expertos han expresado su preocupación por los rápidos avances de la IA, particularmente el desarrollo de la inteligencia general artificial, que se refiere a sistemas que no solo resuelven tareas individuales, sino que también igualan o superan las capacidades intelectuales humanas en casi todas las áreas. Modelos de IA sofisticados, por ejemplo, pueden perseguir objetivos de maneras que divergen de las intenciones humanas, algo que los investigadores de seguridad de IA llaman el «problema de alineación».
Otros expertos en IA, sin embargo, consideran que tales escenarios apocalípticos son extremadamente improbables. Entre los críticos más prominentes de los llamados «catastrofistas de la IA» se encuentra el científico jefe de Meta, Yann LeCun, quien en octubre de 2024 desestimó tales preocupaciones como «completa tontería».