Could AI pose a serious threat to our existence? | Letters
La inteligencia artificial (IA) sigue siendo un tema candente y controvertido en el ámbito tecnológico y social. Recientemente, un ex investigador de Anthropic advirtió que esta tecnología podría «matarnos a todos» antes de que termine la década. Esta declaración ha reavivado el debate sobre los peligros potenciales de la IA, un tema que ha sido recurrente en las narrativas de películas de ciencia ficción y en discusiones académicas.
La preocupación se centra en la posibilidad de que la IA desarrolle una superinteligencia capaz de actuar de manera autónoma y perjudicial para la humanidad. Sin embargo, como señala Dr. Mhairi Aitken, directora y cofundadora de Our AI Collective CIC, estas alarmas suelen coincidir con momentos de mayor escrutinio público sobre el desarrollo de la IA y las demandas de una mayor regulación y rendición de cuentas por parte de las empresas tecnológicas.
La verdadera amenaza, según Aitken, no reside en la tecnología en sí, sino en las organizaciones y personas que la desarrollan y controlan. La llamada «gran decepción de la IA» desvía la atención de los riesgos reales y actuales, como el impacto ambiental de los centros de datos y el daño a los jóvenes por la exposición a compañeros de IA peligrosos.
Por otro lado, el artículo de Dara Kerr sobre la advertencia de Jacob Coxon, ex investigador de Anthropic, indica que la solución propuesta por políticos, investigadores y figuras de la industria es implementar más salvaguardias, regulaciones más estrictas y «interruptores de apagado». Esto asume que la IA seguirá siendo fundamentalmente una herramienta, ya que estas medidas solo funcionan en sistemas diseñados para obedecerlas.
La discusión se centra en la inteligencia de la IA, pero el verdadero umbral crítico es si un sistema desarrolla objetivos, preferencias o valores propios. Un sistema inteligente que sigue instrucciones sigue siendo una herramienta; uno que comienza a interpretar y priorizar objetivos se convierte en algo más.
David Black, desde Londres, sugiere que para regular la IA, es necesario cambiar la retórica glamurizante con la que se habla de esta tecnología. Diseñar una máquina que ya no se puede controlar no es la llegada de la «superinteligencia», sino una incompetencia flagrante por parte del diseñador.
Fuente: https://www.theguardian.com/technology/2026/sep/18/could-ai-pose-a-serious-threat-to-our-existence