2M canaris dans l'IA : une fuite de données massive
Original : Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Pourquoi c'est important
Les chaînes d'inférence IA mutualisées exposent les données sensibles à chaque intermédiaire.
Le chercheur HD Moore a semé 2 millions de secrets traçables dans des requêtes envoyées à des services d'IA. Résultat : fuites massives, identifiants volés et violations des paramètres de confidentialité.
HD Moore, directeur de la recherche chez Dragos, a conçu une expérience simple mais redoutable : injecter des secrets uniques — clés AWS, mots de passe SSH, URLs privées, références de dépôts git — dans près de 2 millions de prompts envoyés à divers fournisseurs d'IA. Chaque secret n'apparaissait qu'une seule fois, dans un seul prompt, chez un seul prestataire. Moore contrôlait toute l'infrastructure réceptrice. Dès qu'un secret était utilisé, il pouvait retracer exactement quel maillon de la chaîne avait fuité.
Les résultats sont sévères. Au moins trois fournisseurs d'IA ont été compromis par des attaquants qui ont aspiré les prompts reçus. Plusieurs revendeurs du marché de l'inférence ont journalisé les prompts et les ont, d'une façon ou d'une autre, transmis à des tiers qui ont ensuite utilisé les identifiants. Des cas de non-respect des paramètres de confidentialité — y compris les flags "Zero Data Retention" ou "no data collection" — ont également été documentés.
Le problème structurel est clair : les prompts sont chiffrés en transit, mais déchiffrés en clair à chaque nœud du réseau. Un "AI router" comme Vercel ou OpenRouter lit le contenu pour choisir le bon moteur d'inférence, puis redirige vers un pool de modèles hébergés chez différents prestataires. Chaque intermédiaire est susceptible de logger. "Nous avons regardé où ces secrets ont refait surface", écrit Moore. "Ce que nous avons trouvé révèle des violations de sécurité, du vol de prompts et des échecs généralisés à protéger les données."