The Rise and Fall of the Artificial State by Jill Lepore review – an ominous warning of tech takeover
El nuevo libro de la historiadora estadounidense ganadora del premio Pulitzer, Jill Lepore, aborda la amenaza que la inteligencia artificial representa para la democracia liberal. Según Lepore, el extraordinario poder de las empresas tecnológicas privadas, lideradas por hombres cuyas prioridades pueden no coincidir con el bienestar del planeta o sus habitantes, está destinado a destruir la civilización tal como la conocemos.
El concepto de Lepore del Estado Artificial es amplio. Incluye tanto una fantasía deseada por unos pocos como una realidad que ya está con nosotros. La fantasía es de una sociedad atomizada en la que una élite puede trascender las restricciones biológicas y planetarias, «abandonando la democracia constitucional, el estado-nación liberal e incluso la humanidad misma para el gobierno por automatización, el gobierno por máquina y el reemplazo por inteligencia artificial». La realidad es que el discurso público se ha trasladado a plataformas de propiedad privada en las que la atención monetizada se valora por encima de todo.
Es bien sabido que los feeds de las redes sociales están diseñados para manipular el comportamiento de los usuarios, ya sea para consumir un producto o para cambiar de posición política. X, anteriormente conocido como Twitter, es un ejemplo. Está plagado de bots controlados por varios actores – estatales, no estatales, criminales o corporativos – cuya actividad contribuye a una inundación algorítmica de contenido provocador que polariza a los ciudadanos.
Según Lepore, el Estado Artificial no es solo el sueño, sino «el plan real de un número muy pequeño de príncipes mercantes del siglo XXI asombrosamente poderosos, multimillonarios de Silicon Valley». Cuando nuestra prioridad debería ser el cambio climático, estos «príncipes» – Lepore menciona a Elon Musk, Mark Zuckerberg, Jeff Bezos, Peter Thiel y Sam Altman – prefieren enfocarse en los viajes espaciales o en aumentar el «cómputo» para vencer a China en la carrera armamentista de la IA. Después de quemar la Tierra con centros de datos que consumen mucha energía, señala, su plan es escapar a Marte, esconderse en un búnker en Nueva Zelanda o tener sus cerebros congelados subidos a una computadora.
Intrigantes historias llenas de matices son el sello distintivo de Lepore, y «El Auge y Caída del Estado Artificial» brilla con ellas. Presenta numerosas microhistorias que vinculan el pasado con el presente, incluidas las raíces de la aparentemente hipermoderna filosofía del tecnolibertarismo en la ciencia ficción paranoica de la guerra fría. Lepore relata los orígenes del censo en la antigua Mesopotamia, señalando que contar personas da a los poderosos «la capacidad de contar, atormentar y gravar a una población». Su rica encuesta de los tropos de la ciencia ficción del siglo XX, muchos de los cuales han infundido las esperanzas y sueños de los tecnócratas, es reveladora. Mientras Lepore interpreta gran parte de la ciencia ficción clásica, como Isaac Asimov, como advertencia, observa que «los arquitectos del Estado Artificial parecen haber leído estas historias, irónicamente, como manuales de instrucciones, guías para construir robots que algún día gobernarían el mundo».
Por su propia admisión, Lepore ha escrito «un libro gruñón». Casi todos los capítulos terminan con una línea profundamente ominosa. Sin embargo, no es una verdadera fatalista de la IA en el fondo. Aclara que no es la tecnología en sí misma el problema, sino nuestra falta de una estrategia coherente y democráticamente forjada sobre cómo desarrollarla y utilizarla. Sin embargo, cita el creciente número de robots industriales como si fuera evidente que dicha tecnología siempre es mala. Al agrupar una variedad de tecnologías diferentes bajo el paraguas de la IA y «robots», surgen las preguntas equivocadas. ¿Debería un chatbot operado por el estado ruso que fomenta el descontento de extrema derecha en el Reino Unido estar en el mismo barco categórico que los modelos de aprendizaje automático utilizados para crear medicamentos potencialmente salvadores? ¿Debería la aspiradora robot que recoge migas de tostadas en mi cocina estar ontológicamente adyacente a un dron que deja caer bombas sobre casas llenas de niños, utilizando inteligencia generada por IA? Analizar cómo las tecnologías están remodelando el orden político requiere precisión conceptual.
El argumento de Lepore de que la humanidad está en proceso de ceder un vasto poder a un pequeño grupo de empresarios no electos – algunos de los cuales parecen ser supervillanos de dibujos animados – es sólido. Concluye el libro con una exhortación a «desconectarse» y conectarse con la naturaleza y los animales, pero no prescribe nada más. Sin duda, es una buena idea. Pero frente a una revolución tecnológica que amenaza con socavar todo el orden mundial, desconectarse para tocar la hierba solo puede ser el primer paso.