AI could kill all humans in next decade, warn experts: but how seriously should we take them?
Un experto en seguridad de Anthropic ha advertido que existe más de un 10% de probabilidad de que la inteligencia artificial (IA) pueda desencadenar un evento que elimine a la humanidad en la próxima década. Esta alarmante declaración ha intensificado las presiones para establecer restricciones sobre la superinteligencia artificial.
Las advertencias han surgido en ambos lados del Atlántico, con figuras destacadas como Des Browne, ex secretario de defensa, y el profesor Stuart Russell de la Universidad de Berkeley, comparando los riesgos de la IA con los de las armas nucleares. Beatrice Fihn, ganadora del Premio Nobel de la Paz en 2017, también advirtió a los parlamentarios sobre las capacidades que podrían acabar con la humanidad.
El grupo de presión Control AI, que busca una regulación internacional de la tecnología, ha respaldado un proyecto de ley presentado en el parlamento británico por el diputado laborista Alex Sobel para prohibir la creación de superinteligencia artificial. En una sesión reciente, un empleado de Anthropic admitió que su empresa no tiene un plan para garantizar que la superinteligencia artificial no cause daño.
Evan Hubinger, líder en ciencia de alineación en Anthropic, expresó su preocupación tras la renuncia de Jacob Coxon, un investigador que acusó a Anthropic y OpenAI de «jugar con nuestras vidas». Coxon señaló que, aunque los riesgos son bien conocidos, las empresas están «en una carrera» para ser las primeras en desarrollar esta tecnología.
En Estados Unidos, el senador Bernie Sanders ha intensificado su campaña por la seguridad de la IA, instando al Congreso a regular la tecnología. Según encuestas, el 81% de los estadounidenses cree que sus políticos deberían tomar medidas al respecto.
Jaan Tallinn, fundador de Skype y financiador de ControlAI, ha dedicado parte de su fortuna a la seguridad de la IA, afirmando que algunos ejecutivos de IA estarían contentos con la extinción de la humanidad. A pesar de ser un inversor temprano en Anthropic y Google DeepMind, estima que entre el 10 y el 15% de los empleados de IA creen que la tecnología será un digno sucesor de la humanidad.