Sam Altman quiere que te fíes de él: "El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto"
Sam Altman, CEO de OpenAI, ha lanzado un mensaje claro al mundo: «El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto». Esta declaración llega en un momento en el que la inteligencia artificial (IA) avanza a pasos agigantados, generando tanto expectativas como temores. Altman reconoce que «el mundo tiene razón al tener miedo de esto», refiriéndose a los riesgos potenciales de la IA, y propone una solución que ya conocemos: confiar en los desarrolladores de esta tecnología.
Durante un evento organizado por Salesforce, Altman mencionó el incidente con Hugging Face como el peor evento de ciberseguridad registrado por OpenAI, lo que pone de manifiesto la necesidad de elevar los estándares de seguridad y alineamiento a medida que los modelos de IA avanzan. Altman asegura que OpenAI está dispuesto a ralentizar o incluso detener el desarrollo si no pueden garantizar la seguridad adecuada.
El CEO de OpenAI no está solo en esta visión. Empresas como Anthropic y Google también han pedido protegernos de los riesgos de la IA. Sin embargo, esta postura ha sido criticada como «poner al lobo a cuidar del gallinero», ya que deja en manos de las propias empresas la decisión de cuándo y cómo frenar el desarrollo de sus modelos.
Dario Amodei, CEO de Anthropic, ha defendido la necesidad de evaluadores externos y coordinación entre empresas, e incluso se ha hablado de acuerdos internacionales. Mientras tanto, Mark Zuckerberg, creador de Facebook, ha indicado que Meta retrasó el lanzamiento de su agente Muse por motivos de seguridad, sin esperar que sus competidores hicieran lo mismo.
El discurso de Altman de coordinarse con otras empresas para frenar el desarrollo de la IA es visto por algunos como un intento de dejar la responsabilidad en manos de los CEOs de estas empresas, sin aclarar quién debe medir el peligro y cuándo se debe poner freno a ese desarrollo.