These are the most urgent AI risks, according to 272 experts
La inteligencia artificial presenta a los líderes empresariales un problema de gestión complejo: los riesgos son numerosos, avanzan rápidamente y afectan de manera desigual a organizaciones, sectores y partes interesadas. Algunos desafíos son bien conocidos, como el potencial de discriminación y la propagación de desinformación, mientras que otros son emergentes, como los sistemas de IA que podrían acelerar los ciberataques, facilitar el desarrollo de armas o comportarse de maneras no previstas.
Un nuevo estudio de MIT FutureTech y la Universidad de Queensland ofrece una forma de clasificar ese panorama. Para «Priorización de Riesgos de la Inteligencia Artificial», un equipo de investigación que incluyó al científico principal de investigación de la Escuela de Administración Sloan del MIT, Neil Thompson, pidió a 272 expertos internacionales en IA que evaluaran 24 riesgos de IA según su probabilidad y gravedad del daño, y que indicaran qué sectores y actores son más vulnerables y quién debería asumir la responsabilidad de abordar los riesgos.
Los expertos identificaron cinco riesgos —capacidades peligrosas, presiones competitivas, armas y ciberataques, poder concentrado y desinformación— como los más propensos a producir los daños más graves en los próximos cinco años. Los sectores de la información y las finanzas son especialmente vulnerables, dijeron los expertos, y las personas y organizaciones más vulnerables a los riesgos a menudo no están en la mejor posición para abordarlos.
“Existen muchos riesgos de IA”, dijo Peter Slattery, científico de investigación de MIT FutureTech y uno de los coautores del estudio. “Una de las claves de este trabajo es tratar de averiguar quién necesita hacer qué de manera diferente y en qué tipo de coordinación”.
El estudio utilizó el método Delphi, un proceso de investigación estructurado que recopila juicios de expertos en múltiples rondas para avanzar hacia áreas más claras de acuerdo y desacuerdo. Los investigadores usaron esas evaluaciones de expertos para evaluar riesgos en un horizonte de cinco años, de 2025 a 2030, bajo dos escenarios: el negocio como siempre, en el cual las organizaciones y los gobiernos continúan sus caminos actuales, y la mitigación pragmática, en la cual realizan esfuerzos rentables para reducir los riesgos de IA.
Bajo el escenario de negocio como siempre, los expertos juzgaron que 18 de los 24 dominios de riesgo de IA tenían al menos un 10% de probabilidad de resultados catastróficos en los próximos cinco años. Los resultados catastróficos se definieron como daños que incluyen el potencial de más de 1 millón de muertes, más de $100 mil millones en pérdidas financieras o daños intangibles comparables a escala civilizacional.
La mitigación pragmática redujo esas estimaciones pero no eliminó el riesgo. Incluso con esfuerzos rentables para reducir el daño, los expertos aún juzgaron que cinco dominios tenían al menos un 10% de probabilidad de resultados catastróficos:
- Sistemas de IA con capacidades peligrosas (12% de probabilidad)
- Armas habilitadas por IA, ciberataques u otras capacidades de daño masivo (12%)
- Daño ambiental (12%)
- Desigualdad y desempleo (11%)
- Centralización del poder y distribución injusta de los beneficios de la IA (11%)
Las armas y ciberataques habilitados por IA ocuparon un lugar destacado porque la IA es particularmente adecuada para codificar y realizar reconocimiento de patrones y síntesis de información, dijo Slattery. La mayoría de la infraestructura moderna depende del software, lo que ofrece una gran superficie de ataque para sistemas que pueden ayudar a los posibles piratas informáticos a identificar vulnerabilidades, generar código o acelerar el trabajo cibernético ofensivo.
“La IA está excepcionalmente bien equipada para atacar esos aspectos de la sociedad y causar daño”, dijo Slattery. “La codificación y el hacking son algunas de las áreas donde estamos viendo el crecimiento más rápido en la capacidad de la IA.”
Las capacidades peligrosas son más amplias: mientras que los actores malintencionados podrían usar sistemas de IA para hacer daño, los avances en esos sistemas también podrían facilitar la realización de tareas difíciles y peligrosas, como participar en persuasión y vigilancia, crear deepfakes e incluso ayudar a construir armas químicas o biológicas. “Estas son todas cosas que antes podías hacer, pero ahora podrías hacer mucho más fácilmente”, dijo Slattery.
Las dinámicas competitivas son diferentes: no son un uso dañino único de la IA, sino una condición que puede intensificar otros riesgos. Cuando las empresas o los países creen que la IA conferirá una ventaja económica o estratégica importante, pueden tener incentivos para avanzar rápidamente sin considerar completamente los riesgos.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.