Autonomous drones and the future of war in an AI-driven world | Letter
En un mundo cada vez más impulsado por la inteligencia artificial, los drones autónomos están cambiando radicalmente el panorama de la guerra moderna. Según el cirujano militar Dr. Darren Mann, estas máquinas, programadas para actuar sin distinción, representan un peligro inminente, ya que pueden atacar tanto a combatientes como a civiles, sin rendir cuentas a nadie. Stuart Russell advierte sobre la pérdida de control en el uso de la IA en armamento, un problema que no solo amenaza con consecuencias a largo plazo, sino que ya está teniendo un impacto devastador en el presente.
Un dron autónomo, al ser instruido para despejar una «zona de muerte», actúa sin discernimiento, cumpliendo órdenes que pueden ser legales pero moralmente cuestionables. La diferencia crucial entre un objetivo y un objetivo legítimo es el principio de distinción, algo que estas máquinas no pueden comprender por completo. La solución, según algunos expertos, no reside en confiar en una superinteligencia, sino en un sistema determinista que opere bajo las convenciones de Ginebra, con decisiones auditables y supervisadas por humanos.
La autonomía en el campo de batalla se presenta como una manera de evitar bajas propias, pero esta percepción es engañosa. La guerra sigue requiriendo la ocupación y defensa de territorios, y las bajas humanas son inevitables. La eliminación de humanos del ciclo de ataque no elimina a las naciones de la guerra. Si no podemos enseñar a un dron a respetar las leyes de la guerra, ¿cómo podemos esperar que una inteligencia superior respete los valores humanos fundamentales? La confusión entre intereses y valores es un error que los estrategas advierten evitar; en este contexto, ambos deben ser uno solo. Las máquinas que matan sin distinción, sin rendir cuentas, no dejan a nadie a salvo. Nuestros intereses no solo permiten mantener la línea; lo exigen.