Investigadores de Anthropic alertan de que la inteligencia artificial podría aniquilar a la humanidad en diez años
La empresa de inteligencia artificial Anthropic ha lanzado una alarmante advertencia sobre el potencial destructivo de la IA. Eva Hubinger, responsable de Ciencia de Alineamiento de Anthropic, ha declarado que existe un 10% de probabilidad de que la IA cause una catástrofe que afecte a la humanidad en los próximos diez años. «Estamos haciendo lo que podemos para resolver el alineamiento de la superinteligencia, pero aún no estamos en el camino de lograrlo», afirmó Hubinger.
Estas declaraciones se producen tras la dimisión de Jacob Coxon, un investigador que ha trabajado tanto en Anthropic como en OpenAI. Coxon ha acusado a ambas compañías de «jugar» con la vida de las personas al competir por desarrollar una superinteligencia sin saber cómo controlarla. Según Coxon, los altos directivos de estas empresas moderan sus palabras en público sobre los riesgos reales de la IA, mientras que en privado la carrera por la superinteligencia continúa sin control.
La controversia se intensificó cuando OpenAI anunció que un modelo interno había resuelto el problema de Navier-Stokes, uno de los Problemas del Milenio de las matemáticas, en solo 88 horas. Aunque OpenAI niega haber accedido al trabajo de otros investigadores, la situación ha generado preocupación entre la comunidad científica.
El sector de la inteligencia artificial se encuentra en una carrera desmedida por desarrollar modelos cada vez más potentes, mientras los expertos advierten sobre los peligros de no tener un plan para controlar estas tecnologías avanzadas.
Fuente: https://www.rtve.es/noticias/20260909/investigador-acusa-openai-anthropic-jugar-vidas/17218192.shtml