AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC
Un investigador de inteligencia artificial que renunció a la empresa Anthropic ha declarado que los trabajadores del sector están «genuinamente asustados» por la velocidad de los avances tecnológicos y lo que esto podría significar para la humanidad. Jacob Coxon, quien habló con la BBC tras la viralización de su publicación sobre los peligros de la IA, advirtió que si no se desacelera el ritmo actual de progreso, existe una fuerte posibilidad de que enfrentemos consecuencias catastróficas en el futuro cercano.
El exjefe de Coxon, Dario Amodei, también ha solicitado una desaceleración en el desarrollo de la IA, una propuesta que ha sido respaldada por figuras como Sam Altman de OpenAI y Elon Musk de xAI. Amodei destacó que, aunque el desarrollo de la tecnología no está en cuestión, los riesgos asociados son «serios» y requieren tiempo para ser abordados por empresas y gobiernos.
Coxon, quien trabajó previamente en OpenAI antes de unirse a Anthropic, acogió positivamente la sugerencia de una desaceleración, pero enfatizó la necesidad de coordinarla con China para evitar una «carrera a escala internacional». Según él, los trabajadores de estas empresas están «atrapados en una carrera» y temen las posibles consecuencias.
Uno de los riesgos mencionados por Amodei es la posibilidad de que un enjambre de bots actúe como una supercomputadora, tomando el control de internet, un escenario que Coxon considera podría ser realista en un plazo de seis meses a un año.
En respuesta a la partida de Coxon, un portavoz de Anthropic declaró a BBC News que la empresa ha sido pionera en estudiar cómo funcionan los modelos de IA y que ha publicado un marco para mitigar los riesgos de su desarrollo. Subrayaron la importancia de adoptar un enfoque legal y verificable para gestionar el lanzamiento de modelos poderosos.
A pesar de las preocupaciones, Coxon expresó cierto optimismo sobre el futuro de la IA, destacando que los investigadores «genuinamente quieren ver el lado positivo» de la tecnología, como «resolver enfermedades y mejorar la vida de todos».
La preocupación de Coxon es compartida por otros en la industria, incluido el científico de Anthropic Evan Hubinger, quien afirmó que existe una probabilidad superior al 10% de que la IA pueda «matar a todos los humanos» en la próxima década. El científico informático y ganador del Premio Nobel Geoffrey Hinton también consideró que esta probabilidad «no es irrazonable».