Stephen Hawking, el renombrado físico teórico, ya en 2014 había lanzado una advertencia que resuena con fuerza en la actualidad: el desarrollo de una inteligencia artificial completa podría significar el fin de la raza humana. Esta declaración, realizada en una entrevista con la BBC, surgió a raíz de una pregunta sobre el sistema que utilizaba para comunicarse, el cual incorporaba una forma básica de inteligencia artificial.
El sistema, desarrollado por Intel y la empresa británica Swiftkey, aprendía a predecir las palabras que Hawking podría utilizar, lo que le permitía comunicarse a pesar de las limitaciones impuestas por la esclerosis lateral amiotrófica (ELA), enfermedad que padeció hasta su fallecimiento en 2018. A pesar de sus advertencias sobre los peligros potenciales de la inteligencia artificial, Hawking celebraba las mejoras en su sistema de comunicación y decidió conservar su icónica voz robótica.
Hawking temía que una inteligencia artificial más avanzada pudiera «decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior». Según el científico, los humanos, limitados por su lenta evolución biológica, no podrían competir con estas máquinas y serían superados.
En la actualidad, estas preocupaciones no han perdido vigencia. Jacob Coxon, exinvestigador de OpenAI y Anthropic, ha denunciado que la competencia por desarrollar sistemas de inteligencia artificial cada vez más potentes avanza sin las salvaguardas necesarias. Coxon afirmó que tanto Anthropic como OpenAI «no actúan responsablemente» y acusó a las compañías de «apostar con nuestras vidas».
La preocupación por los riesgos asociados al desarrollo de la inteligencia artificial ha llegado incluso a la Casa Blanca. El 29 de septiembre, Donald Trump y seis líderes tecnológicos firmaron un acuerdo voluntario para establecer controles de seguridad en el desarrollo de sistemas de inteligencia artificial. Este pacto, aunque «moralmente vinculante», no tiene carácter legal ni prevé sanciones para las firmas que incumplan sus compromisos.
El debate sobre la velocidad de avance de los modelos de inteligencia artificial y sus posibles riesgos en áreas como ciberseguridad y bioseguridad sigue en aumento, y las advertencias de Hawking resuenan como un eco inquietante en el presente.