As AI safety concerns mount, three pioneers make the case for staying open
En medio de crecientes preocupaciones sobre la seguridad de la inteligencia artificial (IA), tres de los investigadores más respetados del mundo han defendido la necesidad de mantener la apertura en el desarrollo de esta tecnología. Durante la conferencia Ai4 en Las Vegas, el ganador del Premio Nobel Geoffrey Hinton, la CEO y cofundadora de World Labs Fei-Fei Li, y el cofundador de Coursera Andrew Ng, expusieron sus puntos de vista sobre la importancia de evitar que unas pocas empresas controlen el acceso a la IA.
Andrew Ng expresó su preocupación por la posibilidad de que un pequeño grupo de compañías domine el campo de la IA, similar a cómo Apple y Google controlan los sistemas operativos móviles. «No quiero que haya guardianes», afirmó Ng. «Eso limita cómo todos podemos acceder a la IA». Propuso que se mantengan múltiples proveedores y que los modelos y las empresas compitan, en lugar de permitir que unos pocos jugadores dominen el mercado. «Si tuviera que dar una receta, sería promover la apertura porque la IA es una tecnología asombrosa y quiero que esté en manos de todos», añadió.
Sin embargo, no todos estuvieron de acuerdo en que los modelos de pesos abiertos ayudarían a preservar este estado. Geoffrey Hinton destacó la diferencia entre el software de código abierto, que permite la inspección y modificación del código subyacente, y los modelos de pesos abiertos, que liberan los parámetros de un modelo de IA entrenado al público. «El código abierto es genial. Pero los pesos abiertos significan que entrenas un gran modelo y luego das los pesos. Eso es muy diferente», explicó Hinton. A pesar de sus reservas, reconoció que los modelos de pesos abiertos ya son una realidad permanente en la IA.
Por su parte, Fei-Fei Li argumentó que es peligroso plantear el debate como una dicotomía entre apertura total y cierre completo. Utilizó la física nuclear como ejemplo, donde los documentos científicos se publican abiertamente, pero el uranio está regulado. «La lección es que la apertura no tiene que ser una elección de todo o nada», afirmó Li. Subrayó la importancia de colaboraciones entre instituciones públicas y privadas, como el Proyecto Genoma Humano, que permitió a las empresas farmacéuticas obtener beneficios, a los científicos avanzar en su trabajo y a la sociedad beneficiarse.
A pesar de las diferencias, todos coincidieron en que sería necesario algún nivel de regulación para mantener la IA en el camino correcto.