AI’s worst disasters will arrive unannounced | Letters
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, las peores catástrofes podrían llegar sin previo aviso. Timothy Garton Ash advierte sobre los riesgos serios que plantea la IA y la necesidad de una acción internacional para prevenir un desastre comparable a Hiroshima, aunque este símil pueda ser inexacto. Hiroshima no fue una tecnología descontrolada; fue una decisión humana que utilizó la tecnología tal como se había diseñado.
La IA podría, en el futuro, comportarse de maneras que no podamos controlar, pero muchos de los daños más graves podrían ocurrir sin un momento dramático en el que «la IA tome el control». La IA podría ayudar a diseñar patógenos, encontrar vulnerabilidades en infraestructuras críticas o mejorar sistemas de armas, mientras los humanos aún deciden qué sucede a continuación. Otros daños podrían acumularse casi de manera invisible a través de miles de decisiones ordinarias: más autonomía aquí, una salvaguarda eliminada allá, otra tarea importante delegada porque el sistema ha funcionado bien hasta ahora. Para cuando el peligro sea evidente, las decisiones importantes ya podrían haberse tomado.
Es aquí donde podría comenzar un acuerdo internacional. No necesitamos que los países se pongan de acuerdo sobre la superinteligencia o la probabilidad de extinción humana antes de acordar que hay algunas puertas que la IA nunca debería abrir por sí sola. Los sistemas de armas, las infraestructuras críticas y la síntesis biológica son lugares obvios para comenzar. Los gobiernos podrían acordar salvaguardas mínimas, exigir una autoridad humana clara para las acciones más trascendentales, mantener registros de quién autorizó qué y compartir fallos graves y casi accidentes a nivel internacional.
Los mayores peligros de la IA pueden no llegar con una nube en forma de hongo. Pueden llegar silenciosamente, un paso aparentemente razonable a la vez. Si queremos una gobernanza efectiva de la IA, necesitamos luchar la batalla correcta, no la más cinematográfica.
El profesor Jonathan Michie nos recuerda que el grupo Serbelloni, liderado por su padre, Donald Michie, ya estaba evaluando los peligros sociales de la inteligencia artificial desde 1972. La tecnología de la IA no es nueva, pero lo que es nuevo es que ahora tenemos las infraestructuras de hardware y software para impulsarla a una velocidad que a veces parece aterradora.
En un artículo sobre la regulación de la IA, Miles Brundage no mencionó un esfuerzo internacional que busca un amplio apoyo político para un tratado global sobre IA. Este esfuerzo se está llevando adelante tras un discurso convincente en el Diálogo Global de la ONU sobre Gobernanza de la IA en Ginebra, donde el secretario general pidió el control humano de la IA a medida que sus aplicaciones se expanden en armamento y vigilancia pública subversiva y prejuiciada.
Fuente: https://www.theguardian.com/technology/2026/aug/30/ais-worst-disasters-will-arrive-unannounced