Investigador introduce 2 millones de canarios en la cadena de suministro de IA. Surgió un desastre de privacidad.

Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

Investigadores han plantado dos millones de «canarios digitales» en solicitudes enviadas a través de una vasta red de servicios de inteligencia artificial para descubrir qué sucede con la información sensible confiada a ellos. Lo que encontraron fue un ecosistema que filtraba datos altamente sensibles como un colador.

El experimento fue diseñado para probar si la información sensible puede filtrarse a través de la extensa cadena de servicios de IA ampliamente utilizados y cómo se explota esa información cuando lo hace. Muchas de las aplicaciones de IA actuales utilizan servicios como OpenRouter o Vercel que actúan como intermediarios. Estos «enrutadores de IA», a veces también conocidos como «puertas de enlace de IA», reciben una gran cantidad de solicitudes enviadas por los usuarios finales de aplicaciones de IA y las redirigen a un motor de inferencia disponible basado en criterios como el que cobra el precio más bajo o el más adecuado para la tarea dada.

Para probar posibles filtraciones, el investigador HD Moore reunió una colección de claves de acceso de Amazon Web Services, credenciales de cuentas vacías de AWS, contraseñas para servicios como SSH, y referencias únicas de URLs, nombres de DNS y repositorios privados de git. Ninguno de los secretos había sido utilizado antes, y él controlaba la infraestructura que recibía cualquier solicitud usando las credenciales. Luego, sembró cada secreto en exactamente una solicitud enviada a un solo proveedor. En caso de que alguno de los secretos fuera filtrado, estos «canarios» permitirían a Moore identificar cada eslabón en la cadena responsable.

Los hallazgos son impactantes. Incluyeron evidencia de que al menos tres proveedores de IA fueron comprometidos por atacantes que utilizaron su acceso para desviar las solicitudes que recibieron. Múltiples revendedores en el mercado de inferencia registraron las solicitudes y de alguna manera las pasaron a las personas que usaron las credenciales. También hubo múltiples casos de proveedores de IA que no siguieron las configuraciones de privacidad de los usuarios finales integradas en banderas que especificaban términos como Retención de Datos Cero (ZDR) o «sin recopilación de datos».

Moore, el director de investigación de la firma de seguridad Dragos, escribió: «Enviamos cerca de dos millones de solicitudes de IA que contenían secretos únicos y rastreables a proveedores de IA, luego observamos dónde surgieron esos secretos. Lo que encontramos reveló violaciones de seguridad, robo de solicitudes y fallas generalizadas para proteger los datos de los clientes.»

El hallazgo más preocupante fue la violación de tres proveedores de alojamiento separados. Los atacantes que comprometieron a uno de los proveedores reutilizaron «un par de cientos» de las claves de AWS. Moore escribió: «Cada clave fue enviada en exactamente una solicitud a un proveedor, todo dentro de unas pocas ventanas cortas a finales de octubre, y cada solicitud que enviamos durante esas ventanas fue robada.»

Por último, el experimento de los canarios reveló que algunos proveedores están recopilando URLs secretas puestas en las solicitudes, en violación de los términos de privacidad. Moore escribió: «El ejemplo más claro involucra a un laboratorio de IA chino. Los sistemas de este laboratorio obtuvieron las URLs secretas de más de la mitad de las solicitudes que enviamos a sus modelos entre julio y octubre, incluidas aproximadamente dos tercios de las solicitudes marcadas como «sin recopilación de datos» o Retención de Datos Cero.»

Fuente: https://arstechnica.com/security/2026/11/a-leaky-ai-supply-chain-is-exposing-secret-user-data-at-an-alarming-rate/

← Home