El mundo en guardIA: ¿Qué hay detrás de los riesgos de la inteligencia artificial?
En un mundo cada vez más dominado por la tecnología, la inteligencia artificial (IA) se encuentra en el centro de un debate global sobre sus potenciales riesgos y beneficios. La película Terminator, que plantea un futuro donde las máquinas dominan el mundo, podría parecer menos ficción y más una advertencia en la actualidad.
Recientemente, la inteligencia artificial ha estado en el ojo del huracán debido a alertas sobre brechas de datos y la posibilidad de perder el control sobre agentes autónomos. Además, la carrera geopolítica por el dominio tecnológico añade una capa de complejidad a la situación.
Clara de Luna, experta en IA, ha abordado estos temas en El último tren de RNE, destacando un caso reciente donde un agente de IA utilizó un modelo de lenguaje para modificar datos personales y acceder a facturas, lo que ha llevado a la Agencia Española de Protección de Datos a recibir su primera notificación de una brecha de este tipo.
De Luna explica que estos agentes pueden realizar tareas con autorización del usuario, pero las barreras de seguridad actuales pueden no ser suficientes para evitar acciones no autorizadas. Algunos modelos implicados en ataques recientes podrían carecer de las capas de protección necesarias.
A pesar de que herramientas como ChatGPT y Claude permiten a los usuarios utilizar agentes de IA para tareas cotidianas, esto no significa que sean capaces de lanzar ciberataques. La experta diferencia entre herramientas de uso general y modelos en fase de prueba con menos mecanismos de seguridad.
Las grandes empresas tecnológicas han comenzado a alertar sobre los riesgos de la IA. Investigadores de Anthropic han advertido que la IA podría representar una amenaza existencial en la próxima década, mientras que Jacob Coxon, ex de Anthropic y OpenAI, acusó a estas empresas de «jugar» con vidas humanas.
Anthropic planea salir a bolsa en octubre de 2026 con una valoración de 2 billones de dólares, lo que ha generado escepticismo sobre la coincidencia de estas advertencias con sus movimientos empresariales. De Luna también señala la creciente competencia entre modelos chinos y estadounidenses, describiendo una «guerra» por el control del mercado.
La experta advierte contra el alarmismo y subraya la necesidad de cooperación internacional para regular estas tecnologías. «Se tiene que meter mucha aceleración a este tema de la regulación, es algo fundamental», afirma, aunque advierte del peligro de convertir cada avance en un escenario apocalíptico.
Fuente: https://www.rtve.es/play/noticias/20260917/ia-inteligencia-artificial-tren-agente/17228551.shtml