Enterprise AI's real risk isn't autonomous agents. It's the complexity between them.
En el mundo de la inteligencia artificial empresarial, el verdadero riesgo no reside en los agentes autónomos individuales, sino en la complejidad que surge entre ellos. Rory Blundell, CEO de Gravitee, destaca que el problema radica en cómo las empresas despliegan flotas de agentes, cada uno interactuando con APIs y otros agentes, sumergiéndose en aplicaciones que no fueron diseñadas para tomas de decisiones automáticas. Esta complejidad crea un sistema complicado que es difícil de gobernar.
Cuando se añade un segundo agente a un sistema, se crea una conexión adicional. Sin embargo, al añadir un décimo agente, no se añaden solo diez conexiones, sino potencialmente docenas, ya que cualquier agente podría llamar a otro, y cada una de esas llamadas puede desencadenar otra llamada en algún lugar. La complejidad no aumenta con el número de agentes, sino que se multiplica con el número de caminos entre ellos, y nadie se encarga de dibujar ese gráfico. Un ticket de soporte que solía tocar un solo sistema ahora podría pasar por cuatro agentes antes de que un humano lo vea, y cada uno de esos traspasos es un punto de decisión que nadie aprobó.
La infraestructura de gobernanza no ha evolucionado al ritmo de cómo los agentes realmente se comportan: interconectados, en cascada, multiplicándose más rápido que los procesos diseñados para rastrearlos. La solución comienza con la identidad: cada agente necesita existir como su propia entidad, con su propio nombre en el registro y una autoridad delimitada. Sin embargo, esto no es suficiente. Es necesario un control que abarque toda la cadena, no solo en cada eslabón individual. Se requiere ver en tiempo real qué hizo un agente, qué desencadenó y dónde termina ese rastro.
La supervisión por sí sola solo indica lo que ya ha sucedido. La verdadera gobernanza implica la capacidad de detener una llamada fuera de política antes de que se ejecute, no solo registrarla para que alguien la revise semanas después. Las empresas que se toman en serio la responsabilidad de los agentes necesitan tanto visibilidad como responsabilidad. Aquellas que logran superar la complejidad son las que han construido suficiente visibilidad y responsabilidad, permitiendo que su flota crezca sin perder la capacidad de responder a la pregunta: ¿qué está haciendo este sistema ahora y quién es responsable de ello?
La complejidad no es una razón para frenar. Las empresas que lo hacen bien no están disminuyendo la velocidad, sino construyendo hacia una armonía humano-agente donde la escala y la responsabilidad crecen juntas.