AI’s worst disasters will arrive unannounced | Letters
El debate sobre los riesgos de la inteligencia artificial (IA) ha alcanzado un nuevo nivel de urgencia. Según el Dr. Simon Nieder, los desastres más graves relacionados con la IA podrían llegar sin previo aviso, de manera silenciosa y gradual. A diferencia de eventos catastróficos como Hiroshima, donde la tecnología funcionó según lo planeado, la IA podría desencadenar calamidades sin un momento dramático en el que «la IA tome el control». AI podría ayudar a diseñar un patógeno, encontrar una vulnerabilidad en infraestructuras críticas o mejorar un sistema de armas, mientras los seres humanos aún deciden qué sucede a continuación, advierte Nieder.
El consenso internacional es crucial. No se necesita que los países estén de acuerdo sobre la superinteligencia o la probabilidad de extinción humana antes de establecer que hay ciertas puertas que la IA nunca debería abrir por sí sola. Armas, infraestructuras críticas y síntesis biológica son lugares obvios para comenzar. Los gobiernos podrían acordar salvaguardas mínimas, exigir una autoridad humana clara para las acciones más trascendentales, mantener registros de quién autorizó qué y compartir fallos graves y casi accidentes a nivel internacional.
El profesor Jonathan Michie recuerda que el grupo Serbelloni, liderado por Donald Michie, ya estaba evaluando los peligros sociales de la IA desde 1972. Aunque la tecnología de IA no es nueva, lo que ha cambiado es la infraestructura de hardware y software que impulsa su desarrollo a una velocidad aterradora. La necesidad de un debate que involucre tanto a las ciencias como a las humanidades es más urgente que nunca.
Por su parte, el Dr. Anthony Harris destaca la importancia de un esfuerzo internacional para apoyar un tratado global sobre IA, como se discutió en el Diálogo Global de la ONU sobre Gobernanza de la IA en Ginebra. Un enfoque fragmentado solo aumentará la dificultad de implementar controles de IA efectivos. La oposición bipartidista a los centros de datos, aunque justificada, está desviando la atención política necesaria para controlar la IA y establecer restricciones adecuadas.
Al igual que el cambio climático, las amenazas de la IA avanzada son inherentemente globales, lo que hace que un enfoque internacional sea esencial para prevenir resultados destructivos.
Fuente: https://www.theguardian.com/technology/2026/aug/30/ais-worst-disasters-will-arrive-unannounced