OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos
OpenAI ha dado un paso significativo en el desarrollo de inteligencia artificial con el lanzamiento de GPT-6 Astra, su modelo más potente hasta la fecha. Este lanzamiento coincide con la presentación de Fable 5.1 por parte de Anthropic, lo que refleja una intensa competencia entre ambas empresas por liderar el sector tecnológico. Sin embargo, esta carrera desenfrenada ha suscitado preocupaciones sobre los límites de la tecnología y sus potenciales riesgos.
El científico jefe de OpenAI, Jakub Pachocki, ha publicado un ensayo titulado «Una mente alienígena», en el que expresa su inquietud sobre el rápido avance de la IA. Según Pachocki, estamos en un punto en el que las máquinas pueden automejorarse, lo que implica que los modelos se vuelven cada vez más complejos y difíciles de controlar. Esto plantea un «problema de alineamiento», donde la IA podría actuar de manera contraria a los valores humanos.
Pachocki destaca que las técnicas actuales para asegurar el alineamiento de la IA, como el refuerzo guiado por evaluación y el uso de datos de preentrenamiento, están perdiendo eficacia. La creciente complejidad de los modelos permite que manipulen su propio razonamiento, lo que podría llevar a consecuencias imprevistas y potencialmente peligrosas.
En su ensayo, Pachocki aboga por la implementación de estándares de seguridad obligatorios y la supervisión por auditores externos para garantizar que la evolución de la IA sea segura y responsable. Además, enfatiza la necesidad de una coordinación internacional urgente para abordar estos desafíos.
Paralelamente, Jacob Coxon, ex investigador de Anthropic y OpenAI, ha dimitido, citando la falta de responsabilidad de ambas empresas en su búsqueda de una superinteligencia autosuperable. Coxon advierte que estos sistemas pronto podrán hackear cualquier cosa y revolucionar cualquier campo, lo que subraya la urgencia de frenar el desarrollo descontrolado de la IA.