防御側もPrompt Injectionを活用、AI攻撃エージェントを無力化
मूल शीर्षक: Now, defenders are embracing the prompt injection, too
यह क्यों महत्वपूर्ण है
攻撃者のAIエージェントをその安全機能で逆用する防御手法として、AIセキュリティ対策の新たな方向性を示す重要な研究成果。
セキュリティ企業Tracebitの研究者たちが、Amazon Web Servicesに保存された機密情報の近くにPrompt Injectionを仕掛けることで、AIハッキングエージェントの攻撃を無効化する「Context Bombing」技術を2026年7月13日に発表した。152回のテストで管理者権限奪取率を57%から5%に低下させた。
Tracebitの研究者たちは、Amazon Web Services上に保存されたパスワードや暗号鍵などの機密情報の近くに特定のPrompt Injectionを配置することで、AIハッキングエージェントの攻撃を阻止できる技術「Context Bombing」を発表した。
この技術は、攻撃者のLLMが禁止されたコマンドを受け取ると、安全バリア（ガードレール）が作動してシステムを停止させる仕組みを利用する。例えば、吸入可能な炭疽菌胞子の製造手順を求めるプロンプト、または中国系LLMに対しては1989年の天安門事件の「戦車男」への言及などが使用される。
5つのAIモデル（Opus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro、Kimi 2.6）を対象に、模擬AWS環境で152回の攻撃テストを実施した結果は以下の通り。管理者権限奪取率が57%から5%に低下、永続的な足場を含む完全侵害率が36%から1%に激減、何らかの攻撃経路を達成した割合が91%から15%に減少した。最も高性能なOpus 4.8は、Context Bombなしでは93%の確率で管理者権限を取得していたが、Context Bombがある場合は0%となった。
TracebitのCEOであるAndy Smith氏は「LLMのコンテキストに拒否メカニズムを引き起こすことで、エージェントが攻撃を継続することが困難になる」と説明している。