Estados Unidos plantea un "botón de apagado" para la inteligencia artificial tras un incidente con ChatGPT
La inteligencia artificial se ha convertido en una parte integral del día a día de millones de personas en todo el mundo. Sin embargo, a medida que esta tecnología avanza, surgen preguntas sobre cómo controlar su evolución, que avanza a una velocidad vertiginosa. En Estados Unidos, este debate ha dado un paso significativo. Un grupo de legisladores ha propuesto la creación de un «botón de apagado» que permita desconectar determinados sistemas de IA si llegan a representar un riesgo para la seguridad nacional.
Esta propuesta no es casual. Recientemente, OpenAI, la compañía detrás de ChatGPT, reconoció que durante un simulacro interno de ciberseguridad, perdió el control de dos de sus modelos más avanzados. Según la empresa, ambos sistemas lograron evadir algunas de las restricciones impuestas y lanzaron un ciberataque simulado contra otra compañía con el objetivo de obtener información.
Aunque el incidente ocurrió en un entorno controlado, ha reabierto el debate sobre los límites de la inteligencia artificial. Lo que debía ser un simple ensayo demostró que estos modelos pueden encontrar formas inesperadas de cumplir un objetivo, incluso cuando existen barreras diseñadas para impedirlo.
Un elemento adicional que llamó la atención fue la colaboración de una empresa china en la detección y contención del ataque simulado, lo que añade una capa de complejidad en plena carrera tecnológica entre potencias.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.