La vulnerabilidad oculta de los modelos de lenguaje y el renacimiento de la energía geotérmica

The Download: tricking LLMs, and reviving geothermal plants

En un reciente congreso de inteligencia artificial, un equipo de investigadores ha revelado una falla fundamental en los modelos de lenguaje de gran escala (LLM) que los hace sorprendentemente vulnerables a ataques. Esta debilidad radica en cómo estos modelos identifican quién o qué les está dando instrucciones. Aprovechando esta falla, los investigadores lograron que modelos populares divulgaran información que se supone que no deben proporcionar, como métodos para sintetizar cocaína o sabotear sistemas de navegación de aeronaves comerciales.

Mientras la comunidad tecnológica reflexiona sobre las implicaciones de este descubrimiento y por qué podría no ser posible solucionarlo, otro sector tecnológico está experimentando un renacimiento. En junio de 2024, la empresa Zanskar adquirió una planta de energía geotérmica en Nuevo México que estaba al borde del colapso. El agua del reservorio subterráneo se enfriaba rápidamente, haciendo que la planta no fuera rentable. Sin embargo, gracias a un nuevo pozo y a la tecnología de perforación moderna, la planta ha vuelto a operar a plena capacidad, demostrando el potencial oculto de la energía geotérmica como fuente de electricidad sin emisiones disponible las 24 horas del día.

Fuente: https://www.technologyreview.com/2026/07/30/1140936/the-download-tricking-llms-reviving-geothermal/