Autonomous drones and the future of war in an AI-driven world | Letter
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, la preocupación sobre el uso de drones autónomos en conflictos bélicos se intensifica. Estos drones, capaces de ejecutar órdenes sin distinción, representan un peligro inminente. Según el cirujano militar Dr. Darren Mann, «una máquina que mata sin distinción, sin rendir cuentas a nadie, deja a todos en peligro».
Stuart Russell, experto en IA, ya ha advertido sobre los riesgos de perder el control sobre estas tecnologías. No se trata solo de un problema de una futura superinteligencia; es una realidad presente en el armamento actual, donde la pérdida de control puede resultar en la muerte de civiles hoy, no de la humanidad mañana.
Un dron autónomo programado para despejar una «caja de muerte» actúa sin discriminar entre combatientes y civiles. La diferencia entre un objetivo y un objetivo legítimo es el principio de distinción, que ninguna instrucción puede cerrar completamente, ya que la instrucción en sí misma era legal.
Russell cuestiona la idea de pedir a una superinteligencia que se controle a sí misma. En la guerra, el control no necesita ser otra mente opaca, sino una determinista: su libro de reglas son las convenciones de Ginebra, sus juicios auditables, devueltos a un humano. No necesitamos confiar ciegamente; podemos verificarlo. Algunos ya están trabajando en ello.
Otro peligro peculiar de la guerra es la autonomía vendida como combate sin bajas propias, lo que facilita el inicio de conflictos. Pero eso es una falacia: se puede sacar al humano del bucle de ataque, pero no a la nación de la guerra. El terreno debe ganarse y mantenerse; los muertos siguen llegando, en ataque o defensa. Ya no son los ejércitos los que van a la guerra; son las naciones.
Si no podemos enseñar a un dron a respetar las leyes de la guerra, no lograremos que una inteligencia superior mantenga la fe en nuestros valores. Abandonar esas leyes por supervivencia es confundir intereses con valores, una advertencia constante de los estrategas; aquí, los dos son uno. Las máquinas que matan sin distinción, sin rendir cuentas, no dejan a nadie seguro. Nuestros intereses no solo nos permiten mantenernos firmes; lo exigen.
Dr. Darren Mann, cirujano militar, Londres