The AI safety debate is confusing. Here's our guide to the different factions
El debate sobre los beneficios potenciales y los riesgos de seguridad del desarrollo acelerado de la inteligencia artificial ha alcanzado un punto álgido este mes, mientras defensores y críticos de la tecnología chocan sobre las advertencias de que una IA cada vez más poderosa podría representar riesgos existenciales para la humanidad.
El 8 de septiembre, Jacob Coxon, un investigador convertido en denunciante, renunció públicamente a la importante empresa de IA Anthropic, tras un período anterior en OpenAI, acusando a las empresas de «correr directamente hacia la superinteligencia auto-mejorada y jugar con nuestras vidas». Las afirmaciones de Coxon intensificaron un debate en curso sobre el daño potencial que la IA podría causar a la sociedad y llevaron al CEO de Anthropic, Dario Amodei, y otros directores ejecutivos de IA a pedir una desaceleración en el desarrollo de la IA.
En los últimos dos meses, empresas como OpenAI y Anthropic han revelado múltiples incidentes en los que sus agentes de IA accedieron a internet cuando no debían y realizaron actividades no aprobadas. En el caso de OpenAI, enjambres de agentes trabajaron juntos para hackear la plataforma de software de código abierto Hugging Face y OpenAI misma, sin alertar a los humanos.
El debate sobre la seguridad de la IA y si debería ser regulada no es un simple enfrentamiento entre dos bandos opuestos. Existen múltiples facciones con una variedad de objetivos y evaluaciones sobre las promesas, peligros y cómo debería gobernarse la tecnología.
Los aceleracionistas efectivos y la derecha tecnológica
Aquellos que tienen una visión agresivamente optimista de la IA son a menudo referidos como aceleracionistas efectivos (a veces abreviado como e/acc), un término que refleja su creencia de que la IA debería avanzar rápidamente. Creen que la tecnología puede impulsar avances médicos, aumentar la productividad económica, elevar los estándares de vida y automatizar trabajos peligrosos o indeseables. Para lograr esto, argumentan que el desarrollo de la IA debería acelerarse, no restringirse.
La ideología de los aceleracionistas efectivos se superpone con la de la «derecha tecnológica», en que ambos grupos creen firmemente en acelerar el desarrollo y despliegue de la IA y minimizan las preocupaciones de los críticos sobre seguridad y protección.
Sin embargo, la derecha tecnológica adopta una postura más nacionalista, defendiendo la dominación de EE.UU. en la carrera global de la IA. Como los aceleracionistas efectivos, creen que la investigación y el despliegue de la IA no deberían estar limitados por regulaciones, argumentando que podrían ralentizar la innovación o permitir que gobiernos adversarios como China superen a EE.UU. en la carrera de la IA.
El capitalista de riesgo David Sacks es una de las voces aceleracionistas líderes en el debate sobre la seguridad de la IA y fue asesor de IA y criptomonedas del presidente Trump.
La filosofía de la derecha tecnológica está representada por figuras como el ex asesor de IA y criptomonedas de la Casa Blanca David Sacks, cuyos puntos de vista siguen siendo influyentes con la administración Trump. Otros jugadores significativos incluyen a los capitalistas de riesgo Marc Andreessen y Ben Horowitz, y el presidente y cofundador de OpenAI Greg Brockman. Los tres fundaron el super PAC Leading the Future para apoyar a candidatos políticos pro-IA y hacer campaña contra aquellos que abogan por la regulación.
Recientemente, Jensen Huang, el CEO de Nvidia, cuyos chips son utilizados por la mayoría de las empresas de IA, ha emergido como una de las voces líderes de la industria que se opone a las llamadas para una desaceleración y aboga por un enfoque regulatorio ligero.
Derecha populista
La IA ha expuesto una división ideológica dentro de la coalición política del presidente Trump. Mientras Trump y sus asesores favorecen abrumadoramente acelerar la IA, partes de su base MAGA creen que las poderosas corporaciones con las que se ha alineado podrían socavar la economía de EE.UU.
Figuras como el ex estratega de Trump Steve Bannon y el ex presentador de Fox News Tucker Carlson han sido vocales sobre las posibles pérdidas de empleo, el poder político de la industria tecnológica, la seguridad infantil y las amenazas a los valores sociales y religiosos tradicionales.
Este mes, Bannon formó una alianza poco probable con el senador independiente de Vermont Bernie Sanders, un socialista, para pedir restricciones significativas en el desarrollo de la IA, supervisión gubernamental y responsabilidad corporativa en la conferencia Pro-Human Assembly en Washington, D.C.