La carrera por desarrollar sistemas de inteligencia artificial (IA) cada vez más avanzados está generando preocupación entre los investigadores del sector. Alex Turner, exinvestigador de Google DeepMind, lanzó una contundente advertencia ante el Ayuntamiento de Nueva York el pasado 5 de octubre. Turner afirmó que «estamos compitiendo por crear y desarrollar a nuestro propio adversario», sugiriendo que Estados Unidos podría estar gestando una amenaza más preocupante que la competencia tecnológica con China.
Turner explicó que una IA desalineada podría perseguir objetivos incompatibles con los intereses humanos, incluso si fue diseñada para realizar tareas beneficiosas. Esta preocupación es compartida por otros expertos, como Jacob Coxon, exinvestigador de Anthropic, quien cuestionó la velocidad a la que avanza la industria y advirtió sobre el riesgo de perder el control de los sistemas futuros.
La sesión en el Ayuntamiento contó con la participación de representantes de empresas como Google, Meta, Anthropic y OpenAI. Julie Menin, presidenta del Ayuntamiento, interrogó a estas compañías sobre la seguridad de sus modelos y quién asumiría la responsabilidad en caso de daños. La necesidad de establecer medidas de supervisión independientes y una mayor transparencia fue otro punto clave del debate.
El Ayuntamiento de Nueva York está considerando nuevas obligaciones para las empresas, como verificaciones externas y mecanismos de protección para denunciantes. El desafío no solo es competir con China, sino desarrollar tecnología avanzada sin perder el control sobre ella.