Opaque recurrence, and other AI terms that you should probably know
La inteligencia artificial (IA) está reescribiendo el mundo y, al mismo tiempo, inventando un lenguaje completamente nuevo para describir cómo lo está haciendo. En cualquier reunión de producto, presentación o panel en estos días, escucharás a la gente mencionar términos como LLMs, RAG, RLHF y, desde la semana pasada, «recurrencia opaca», la técnica de razonamiento en el nuevo modelo Astra de OpenAI que ha inquietado a los investigadores de seguridad en IA. El vocabulario avanza lo suficientemente rápido como para hacer que incluso las personas muy inteligentes en el mundo tecnológico se sientan un poco inseguras.
Este glosario es nuestro intento de solucionar eso: definiciones en lenguaje sencillo de los términos de IA que es más probable que veas, ya sea que estés construyendo con estas tecnologías, invirtiendo en ellas o simplemente tratando de mantenerte al día leyendo TechCrunch o escuchando podcasts relacionados. Lo actualizamos regularmente a medida que el campo evoluciona, por lo que considéralo un documento vivo, muy parecido a los sistemas de IA que describe.
El término AGI o inteligencia general artificial es nebuloso. Generalmente se refiere a una IA que es más capaz que el humano promedio en muchas, si no la mayoría, de las tareas. El CEO de OpenAI, Sam Altman, describió una vez el AGI como el «equivalente de un humano medio que podrías contratar como compañero de trabajo». Mientras tanto, la carta de OpenAI define el AGI como «sistemas altamente autónomos que superan a los humanos en la mayoría de los trabajos económicamente valiosos». La comprensión de Google DeepMind difiere ligeramente de estas dos definiciones; el laboratorio ve el AGI como «IA que es al menos tan capaz como los humanos en la mayoría de las tareas cognitivas». ¿Confundido? No te preocupes, también lo están los expertos en la vanguardia de la investigación en IA.
Un agente de IA se refiere a una herramienta que utiliza tecnologías de IA para realizar una serie de tareas en tu nombre, más allá de lo que un chatbot de IA más básico podría hacer, como presentar gastos, reservar boletos o una mesa en un restaurante, o incluso escribir y mantener código. Sin embargo, como hemos explicado antes, hay muchas piezas en movimiento en este espacio emergente, por lo que «agente de IA» podría significar diferentes cosas para diferentes personas. La infraestructura también se está construyendo para cumplir con sus capacidades previstas. Pero el concepto básico implica un sistema autónomo que puede recurrir a múltiples sistemas de IA para llevar a cabo tareas de múltiples pasos.
Los puntos finales de API son como «botones» en la parte trasera de un software que otros programas pueden presionar para hacer que haga cosas. Los desarrolladores usan estas interfaces para construir integraciones, por ejemplo, permitiendo que una aplicación extraiga datos de otra, o habilitando a un agente de IA para controlar servicios de terceros directamente sin que un humano opere manualmente cada interfaz. La mayoría de los dispositivos inteligentes para el hogar y las plataformas conectadas tienen estos botones ocultos disponibles, incluso si los usuarios comunes nunca los ven o interactúan con ellos. A medida que los agentes de IA se vuelven más capaces, son cada vez más capaces de encontrar y usar estos puntos finales por sí mismos, abriendo posibilidades poderosas, y a veces inesperadas, para la automatización.
El razonamiento en cadena en un contexto de IA significa descomponer un problema en pasos más pequeños e intermedios para mejorar la calidad del resultado final. Por lo general, lleva más tiempo obtener una respuesta, pero la respuesta es más probable que sea correcta, especialmente en un contexto de lógica o codificación. Los modelos de razonamiento se desarrollan a partir de modelos de lenguaje grandes tradicionales y se optimizan para el pensamiento en cadena gracias al aprendizaje por refuerzo.
Un agente de codificación es un concepto más específico que un «agente de IA», lo que significa un programa que puede tomar acciones por sí mismo, paso a paso, para completar un objetivo. Un agente de codificación es una versión especializada aplicada al desarrollo de software. En lugar de simplemente sugerir código para que un humano lo revise y pegue, un agente de codificación puede escribir, probar y depurar código de manera autónoma, manejando el tipo de trabajo iterativo, de prueba y error que típicamente consume el día de un desarrollador. Estos agentes pueden operar en bases de código completas, detectando errores, ejecutando pruebas y aplicando correcciones con una supervisión humana mínima.