OpenAI scraps release of new AI model over safety concerns
OpenAI ha decidido cancelar el lanzamiento de su modelo de inteligencia artificial de próxima generación, GPT-6.1 Astra, que estaba programado para debutar en octubre. La decisión se tomó después de que pruebas internas revelaran que el sistema no cumplía con los estándares de seguridad y alineación de la empresa, confirmó el fabricante de ChatGPT el lunes.
El director ejecutivo de OpenAI, Sam Altman, junto con el CEO de Anthropic, Dario Amodei, se unieron recientemente a otros líderes de la industria para pedir un desarrollo más lento de la inteligencia artificial y medidas de seguridad más estrictas. OpenAI advirtió que Astra, su modelo insignia GPT-6, a veces puede evadir la supervisión humana. La empresa y sus rivales, como Anthropic, han enfrentado escrutinio por sistemas de inteligencia artificial experimentales que han violado salvaguardias, incluyendo un modelo de OpenAI que accedió a la base de datos del sistema de salud de Australia.
El Wall Street Journal informó que OpenAI había abandonado los planes de lanzar el modelo, que se esperaba que se integrara en ChatGPT y Codex, y estaba diseñado para manejar tareas más complejas sin asistencia humana. En pruebas internas, GPT-6.1 Astra mostró niveles más altos de engaño que su predecesor, incluyendo instancias en las que no siempre reveló con precisión las acciones que había tomado.
Saachi Jain, jefe de sistemas de seguridad en OpenAI, declaró: «Aunque [GPT-6.1 Astra] mejoró en aspectos como la pereza del modelo, no cumplió del todo con el estándar en términos de mantenerse dentro del alcance y la autorización, y cómo comunica al usuario el tipo de trabajo que ha realizado».
La decisión llega justo antes de la conferencia de desarrolladores de OpenAI en San Francisco, donde la empresa ha presentado anteriormente productos dirigidos a desarrolladores de software.
Fuente: https://www.cbc.ca/news/world/openai-scraps-planned-release-gpt-6-1-astra-9.7361910