Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle
En un mundo cada vez más dominado por agentes autónomos, la privacidad y la seguridad se han convertido en temas cruciales. Un nuevo informe del taller Google Contextual Agent Privacy and Security (CAPS), celebrado en Nueva York en 2025, aborda estos desafíos. Este informe es el resultado de una colaboración entre más de 50 líderes académicos e industriales que buscan definir las direcciones de investigación necesarias para construir agentes de inteligencia artificial (IA) confiables.
Los agentes autónomos, impulsados por modelos de lenguaje de gran escala, tienen el potencial de manejar tareas complejas de manera autónoma. Sin embargo, para que estos agentes sean útiles, deben entender y actuar de acuerdo con las normas de comportamiento contextuales. Esto plantea un desafío: cómo permitir que los agentes actúen de manera adecuada mientras se garantiza su capacidad operativa.
El informe destaca los problemas fundamentales de privacidad y seguridad que enfrentan los agentes autónomos, que requieren defensas coordinadas a nivel de sistema, modelo, usuario y ecosistema. Los agentes difieren del software tradicional en tres dimensiones críticas: interfaces no estructuradas, flujos de control probabilísticos y autonomía en la delegación de tareas. Estas diferencias requieren enfoques significativamente distintos para abordar los desafíos de privacidad y seguridad.
El informe se basa en la teoría de la Integridad Contextual (CI), que define la privacidad no solo como secreto o control, sino como un flujo de información apropiado según normas sociales justificables. La CI se extiende a la seguridad contextual, evaluando si las acciones de un agente son social y contextualmente apropiadas antes de ejecutarlas.
Por primera vez, los modelos de lenguaje de gran escala ofrecen la oportunidad de crear políticas legibles por máquina que dependan verdaderamente del contexto. Esto permite cerrar la brecha semántica entre las normas contextuales de alto nivel y los permisos del sistema de bajo nivel, asegurando que las acciones de los agentes sean apropiadas antes de que cualquier información salga del ámbito del usuario.