How OpenAI’s Performance Factory keeps ChatGPT fast
OpenAI ha revolucionado su enfoque hacia la ingeniería de rendimiento con la creación de la Fábrica de Rendimiento, un sistema autónomo que utiliza las capacidades completas de Codex para identificar y solucionar problemas de rendimiento a una velocidad sin precedentes. Este sistema, que opera en la nube, automatiza la investigación y resolución de problemas de rendimiento, permitiendo a OpenAI mantener el ritmo con la ambición de su hoja de ruta.
En la Fábrica de Rendimiento, los ingenieros de OpenAI definen flujos de trabajo para tareas recurrentes y escriben instrucciones para los agentes de Codex que las ejecutan. Un ejemplo destacado es el Flujo de Trabajo de Regresión, que se activa cuando se dispara una alerta de rendimiento. Un agente investiga la ralentización, registra sus hallazgos y propone una solución para que un ingeniero la revise. Una vez desplegada, otro agente verifica si el rendimiento ha vuelto a la normalidad. Este flujo de trabajo ha automatizado todo el proceso de solución de regresiones, con más de 1,700 investigaciones realizadas en poco más de tres meses.
La evolución hacia estos flujos de trabajo automatizados comenzó con el uso de Codex como socio en las investigaciones de rendimiento. Los ingenieros podían preguntar a Codex por qué algo se había ralentizado y trabajar juntos para investigar, incluso en sistemas desconocidos. A medida que se desarrollaron habilidades reutilizables como perf-forensics, se capturó el proceso de investigación del equipo de rendimiento, permitiendo a Codex resolver problemas desde varios ángulos.
La Fábrica de Rendimiento consta de cuatro componentes principales: un servicio de tareas con flujos de trabajo configurables, un ciclo de despacho que asigna tareas a los agentes, una API que ejecuta Codex en la nube y suscripciones que activan a los agentes cuando algo cambia, como un comentario en una revisión de GitHub o la finalización de un despliegue.
Fuente: https://openai.com/index/how-openai-performance-factory-keeps-chatgpt-fast