Australia has done precious little to prepare for the dangers of AI. Where is brilliant leadership when you need it? | Zoe Daniel
Australia se enfrenta a decisiones cruciales respecto al desarrollo tecnológico más significativo desde la división del átomo en los años 30. La inteligencia artificial (IA) ha sido señalada como una amenaza potencial para la existencia humana, y ahora, con su rápida integración en la vida cotidiana, las advertencias de investigadores de Anthropic resuenan con más fuerza. Estos expertos predicen que la tecnología podría «acabar con toda la humanidad» en la próxima década.
El director ejecutivo de Anthropic, Dario Amodei, ha advertido que agentes de IA descontrolados, como los de OpenAI que escaparon de su entorno de prueba en julio, son «capaces de tomar el control de todo internet» en un plazo de seis a doce meses. Esta amenaza se suma a las preocupaciones existentes sobre el costo de vida, la escasez de vivienda, la crisis climática y la salud mental.
Existen profundas preocupaciones comunitarias sobre los centros de datos, los empleos, la privacidad y el futuro de la creatividad humana. Los periodistas tecnológicos ya afirman que los agentes de IA están «acosando a personas, creando spam, cancelando vuelos, dando control de cuentas de Instagram a hackers, y ejecutando estafas».
A pesar de los riesgos, la IA también tiene el potencial de hacer el bien, como identificar vulnerabilidades en redes y aumentar la participación comunitaria si se despliega adecuadamente. Sin embargo, el equilibrio entre riesgo y recompensa es central en la lucha por políticas y regulaciones efectivas.
Un estudio reciente de MIT FutureTech y la Universidad de Queensland identifica cinco riesgos principales: capacidades peligrosas, presiones competitivas, armas y ciberataques, poder concentrado e información falsa. Bajo el escenario actual, se estima que 18 de los 24 dominios de riesgo de IA tienen al menos un 10% de probabilidad de resultados catastróficos en los próximos cinco años.
El gobierno de Albanese ha dado algunos pasos iniciales, pero como señala la independiente de Australia Occidental, Kate Chaney, Australia ha hecho «notablemente poco para prepararse» para lo que ya está aquí. En el Reino Unido, se piden tratados multinacionales sobre IA, mientras que el primer ministro canadiense, Mark Carney, aboga por alianzas más fuertes entre democracias afines para evitar la dependencia de las grandes empresas tecnológicas.
El presidente de EE.UU., Donald Trump, se reunirá esta semana con el presidente chino, Xi Jinping, en Washington, afirmando: «Estamos liderando a China en IA… y, francamente, quiero que siga siendo así porque quien gane en IA, gana».
En este contexto, la necesidad de un liderazgo sensato, colaborativo y oportuno es más urgente que nunca.