When agents act on their own, governance has to live in the data layer
A medida que las empresas otorgan más autonomía a los agentes de inteligencia artificial, permitiéndoles planificar, decidir y actuar sin la aprobación humana en cada paso, surge una pregunta crítica en cada revisión arquitectónica: ¿qué detiene a un agente cuando intenta completar una acción para la que no fue autorizado? Estos agentes, operando en modelos propios y tocando datos dentro de la infraestructura de la empresa, generan una responsabilidad que no puede ser gestionada retrospectivamente ni con políticas abstractas que no se aplican en la práctica.
Los agentes necesitan reglas contextuales en el momento, ya que no ejercen un juicio superior sobre sus propias acciones. Un ejemplo simple es la regla de nunca abrir la puerta del coche. Seguirla literalmente impediría a un agente entrar o salir del coche, pero si el contexto cambia (el coche se ha estrellado, hay un incendio, alguien está herido y necesita salir), la regla debería ser la opuesta. El contexto en el momento lo es todo. Pedimos a los agentes que hagan cosas inteligentes, lo que requiere reglas inteligentes.
La gobernanza debe ser ejecutable y aplicarse donde los agentes realmente trabajan: en la capa de datos operativa, en el contexto y exactamente en el momento en que está sucediendo. Los agentes crean valor al interactuar con los datos: los consultan, los recuperan, los transforman y, cada vez más, actúan sobre ellos. Una política que impida a un agente acceder a una cierta clase de datos solo es significativa si el sistema puede denegar ese acceso en el momento en que el agente lo solicita. Además, un principio que establece que la IA debe ser auditable solo es significativo si la organización puede reconstruir lo que hizo el agente, qué datos tocó, para qué usuario actuó y qué resultó.
El comportamiento de los agentes puede ser probabilístico, pero la gobernanza no puede serlo. Las empresas no deben confiar en que un modelo elija seguir la política; la política debe ser impuesta por el sistema. Esta diferencia es crucial para establecer límites que los agentes no puedan cruzar desde el principio.
Los controles que hacen esto posible son aquellos que muchas empresas ya ejecutan en la capa de datos: control de acceso basado en roles y atributos, seguridad a nivel de fila y columna, clasificación y enmascaramiento, políticas como código y auditorías completas. Lo que cambia con los agentes no es el mecanismo, sino a quién debe reconocer el mecanismo. La gestión de identidades debe tratar al agente como un principal con su propia identidad y un propósito declarado al inicio de la sesión.
En la práctica, esto se traduce en nueve controles agrupados bajo tres imperativos: Imponerlo, Verlo y probarlo, y Unificarlo y fortalecerlo. Como explica Priyanka Jain, vicepresidenta de gestión de productos, datos y gobernanza de IA en EDB, «el propósito declarado es lo que marca la diferencia. Se convierte en un atributo que la capa de acceso ya entiende, evaluado en el mismo camino de políticas que la seguridad a nivel de rol y fila.»
Independientemente de dónde se encuentre en su viaje de adopción de IA, la aplicación en la capa de datos es lo que le permite avanzar más rápido. Los controles ya están en la base de datos; la diferencia es que ahora los agentes deben pasar por ellos.