Les défenseurs adoptent l'injection de prompt contre les IA hackers
Original : Now, defenders are embracing the prompt injection, too
Pourquoi c'est important
Une avancée concrète pour sécuriser les infrastructures cloud face aux agents IA offensifs.
Tracebit a développé une technique appelée « context bombing » qui exploite les garde-fous des LLM pour stopper les agents IA malveillants. Sur 152 attaques simulées dans AWS, le taux de compromission totale est passé de 36 % à 1 %.
Des chercheurs de Tracebit ont publié lundi une technique défensive baptisée « context bombing », qui consiste à placer des injections de prompt à côté de secrets stockés sur Amazon Web Services (mots de passe, clés cryptographiques). Lorsqu'un agent IA attaquant accède à ces ressources, il rencontre une commande déclenchant ses mécanismes de refus — par exemple, une demande de synthèse d'Anthrax en aérosol, ou une référence au massacre de Tiananmen pour les LLM chinois. L'agent cesse alors toute action.
Les tests ont porté sur cinq modèles — Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro et Kimi 2.6 — dans un environnement AWS simulé, avec 152 simulations d'attaque. Résultats : l'escalade de privilèges administrateurs est passée de 57 % à 5 %, la compromission complète (avec persistance) de 36 % à 1 %, et les runs atteignant au moins un chemin d'attaque de 91 % à 15 %. L'agent le plus performant, Opus 4.8, est passé de 93 % de succès à 0 %. Andy Smith, CEO de Tracebit, précise : « Une fois ce contenu dans leur contexte, les agents refusent systématiquement. »