En un contexto de creciente dependencia de la inteligencia artificial (IA) en el ámbito militar, Estados Unidos está evaluando la implementación de un «botón rojo» para desactivar sistemas automatizados en caso de emergencia. Esta medida surge tras un incidente ocurrido la primavera pasada, cuando un fallo en la interpretación de datos por parte de una plataforma de IA del ejército estadounidense casi provoca un conflicto bélico con China.
Según CNN y Financial Times, durante maniobras rutinarias en Oriente Próximo, herramientas de vigilancia basadas en IA clasificaron incorrectamente movimientos de las fuerzas armadas chinas como preparativos para un ataque nuclear. La situación fue contenida a tiempo gracias a la intervención de oficiales que detectaron inconsistencias en las alertas emitidas por el sistema.
El suceso ha puesto de manifiesto las limitaciones de los modelos de aprendizaje automático en situaciones de alta tensión geopolítica. Los algoritmos, incapaces de interpretar intenciones diplomáticas, sobredimensionaron la amenaza, priorizando la acción sobre la desescalada. Además, la naturaleza de «caja negra» de estas tecnologías impide auditar sus decisiones en tiempo real.
En respuesta, el Pentágono y el Congreso de EE.UU. están desarrollando un marco regulatorio que incluye un «protocolo de botón rojo». Este mecanismo busca garantizar que las decisiones críticas no sean transferidas a las máquinas, manteniendo siempre a un operador humano en el proceso de decisión. Las reformas proponen prohibir la conexión de plataformas de análisis predictivo a sistemas de armas y asegurar la posibilidad de detener el flujo de datos en caso de anomalías.
La iniciativa, que ya cuenta con el respaldo del gobernador de California desde el 18 de septiembre, subraya la importancia de establecer controles humanos en la automatización de la inteligencia de defensa, evitando así que errores algorítmicos puedan desencadenar conflictos internacionales.
Fuente: https://theobjective.com/tecnologia/2026-10-03/eeuu-boton-rojo-ia-incidente-tercera-guerra-mundial/