When agents act on their own, governance has to live in the data layer
Con el incremento de la autonomía de los agentes de inteligencia artificial (IA) en las empresas, surge una pregunta crucial en cada revisión de arquitectura: ¿Qué detiene a un agente cuando intenta realizar una acción no autorizada? A medida que las organizaciones otorgan a estos agentes la capacidad de planificar, decidir y actuar sin intervención humana, la responsabilidad recae en la infraestructura de datos de la empresa.
Los agentes, operando en modelos propios y manipulando datos internos, requieren reglas contextuales en tiempo real. Un ejemplo sencillo es la regla de nunca abrir la puerta de un coche. Sin embargo, en situaciones de emergencia, como un accidente, la regla debería ser opuesta. La clave está en que los agentes necesitan reglas inteligentes para actuar de manera inteligente.
La gobernanza debe ser ejecutable y aplicarse en el lugar donde los agentes operan: en la capa de datos operativa y en el momento exacto de la acción. Los agentes crean valor al interactuar con los datos, y las políticas deben ser capaces de negar el acceso en el momento en que se solicita. Además, la auditoría de las acciones de la IA solo es significativa si la organización puede reconstruir las acciones del agente, los datos que tocó, para quién actuó y qué resultó de ello.
La gobernanza en la capa de datos asegura que el control sea una propiedad inherente de la base de datos, independiente de cómo fue construido el agente. Esto se logra mediante controles como el acceso basado en roles y atributos, la seguridad a nivel de fila y columna, el enmascaramiento dinámico de columnas y el registro completo de auditoría.
Según Priyanka Jain, vicepresidenta de gestión de productos de gobernanza de datos e IA en EDB, «el propósito declarado es lo que marca la diferencia. Se convierte en un atributo que la capa de acceso ya comprende, evaluado en la misma ruta de política que la seguridad a nivel de rol y fila». Con una base abierta como Postgres, las empresas mantienen el control sobre dónde reside su información, quién puede acceder a ella y bajo qué políticas, sin ceder la gobernanza a una capa externa.