The next frontier is not artificial intelligence, it’s artificial societies
En el debate sobre el futuro de la inteligencia artificial, a menudo se plantea una dicotomía simplista: utopía o catástrofe. Sin embargo, esta visión extrema no es particularmente útil. La posibilidad más interesante es mucho más compleja y requiere un cambio radical en nuestra forma de pensar, pasando de la inteligencia artificial a las sociedades artificiales.
Cuando la mayoría de las personas escucha «IA», suelen pensar en sistemas conversacionales como ChatGPT o Copilot. Estos sistemas generan respuestas a preguntas, pero la IA está avanzando rápidamente más allá de esto. Los sistemas actuales pueden monitorear el mundo, tomar decisiones, negociar transacciones y realizar tareas durante períodos prolongados. La IA ya no solo genera respuestas, sino que actúa en consecuencia.
Esto apunta a algo mucho más grande que un chatbot mejorado: un mundo en el que los agentes de IA actúan en nuestro nombre e interactúan cada vez más con otros agentes de IA. Un agente percibe lo que está sucediendo, decide qué hacer y luego toma acciones para lograr su objetivo. Podría reservar un viaje, monitorear una cadena de suministro, coordinar un equipo o gestionar las finanzas de un hogar.
Imagina no uno, sino millones de estos agentes. Tu agente de IA podría negociar una hipoteca con el agente de tu banco, programar una cirugía con el agente de un hospital y reorganizar tus planes de viaje tratando directamente con los agentes de aerolíneas, hoteles y aseguradoras. Este futuro está más cerca de lo que parece y debería cambiar las preguntas que hacemos sobre la IA. Hasta ahora, la tendencia ha sido centrarse en cuán inteligente podría llegar a ser un solo agente. El desafío más profundo es qué sucede cuando millones de ellos interactúan entre sí a gran escala.
Las bases intelectuales de los sistemas de IA actuales se establecieron mucho antes de ChatGPT. Durante décadas, investigadores de redes de múltiples agentes han estudiado cómo los agentes autónomos pueden cooperar, coordinarse y negociar cuando nadie tiene información completa y nadie controla todo. Los sistemas iniciales se centraron en cómo las subáreas de razonamiento, planificación y actuación de la IA podrían combinarse en un agente orientado a objetivos efectivo, y cómo decenas de estos agentes podrían comunicarse y cooperar para resolver un objetivo común.
A medida que estas interacciones se volvieron más complejas e involucraron a más agentes, hubo un cambio de cooperación entre agentes que pertenecían a una sola organización, a agentes con diferentes propietarios y a veces objetivos en competencia. Esto centró la atención en construir algoritmos que pudieran formar equipos de agentes, automatizar la negociación y determinar la confiabilidad de los agentes.
Hoy en día, las piezas necesarias para construir sistemas de IA de múltiples agentes a gran escala están cayendo en su lugar. Los agentes de IA modernos pueden llamar herramientas de software, acceder a información, escribir y ejecutar código, comunicarse con otros sistemas y operar durante períodos prolongados. Considera una cadena de suministro. Un agente de IA podría representar a un fabricante tratando de asegurar componentes; otro, a un proveedor tratando de maximizar sus ingresos. Aún más podrían gestionar el transporte, el inventario y los almacenes. Cada agente podría estar haciendo exactamente lo que está diseñado para hacer. Pero la pregunta importante es si el sistema que crean se comporta de manera sensata.
Este cambio ofrece enormes beneficios potenciales, pero también aumenta los riesgos. En un experimento reciente que involucró a OpenAI y la plataforma tecnológica Hugging Face, miles de agentes colaborativos intercambiaron decenas de miles de mensajes y pudieron sortear los controles de seguridad (deliberadamente debilitados) diseñados para contenerlos.
Los detalles de un experimento importan menos que la advertencia más amplia. Cuando los sistemas de IA interactúan, el comportamiento del colectivo puede ser más difícil de predecir que el comportamiento de cualquier sistema individual. Eso debería hacernos cautelosos, pero no causarnos a dejar de trabajar.
En cambio, necesitamos cambiar nuestra mentalidad de construir máquinas inteligentes a construir sociedades inteligentes. Una vez que los agentes pueden cooperar, competir y resolver conflictos entre sí, ya no estamos tratando con máquinas aisladas, sino con una sociedad. Por lo tanto, la próxima frontera no es la inteligencia artificial, son las sociedades artificiales.
Ya sabemos que la inteligencia por sí sola no hace que una sociedad funcione. Las sociedades humanas dependen de reglas, instituciones, incentivos, normas y mecanismos para resolver desacuerdos. Las sociedades de IA necesitarán sus equivalentes.
¿Quién es responsable cuando dos agentes toman una mala decisión? ¿Qué sucede cuando los intereses de diferentes agentes entran en conflicto? ¿Quién establece las reglas? ¿Y quién tiene el poder de cambiarlas? Estas no son solo cuestiones técnicas; son preguntas sobre economía, derecho, política y sociedad.
También señalan un papel importante para los humanos. El futuro más útil probablemente no sea uno en el que la IA simplemente reemplace a las personas. Aunque el reemplazo indudablemente ocurrirá en algunos casos, creo que un escenario más común involucrará a personas y agentes trabajando juntos, con cada uno haciendo lo que mejor sabe hacer.
Los humanos aportan juicio, experiencia, valores, comprensión contextual y responsabilidad. Los agentes aportan velocidad, persistencia, escala y la capacidad de procesar enormes cantidades de información.
El objetivo no debería ser crear máquinas que hagan irrelevantes a los humanos. Debería ser crear sistemas en los que humanos y máquinas puedan lograr cosas que ninguno puede lograr solo.
Pero un futuro así requiere más que solo mejores modelos de IA. Necesita confianza y transparencia sobre lo que están haciendo los agentes, fuertes protecciones de privacidad y líneas claras de responsabilidad.