AI Browser狙う新攻撃「BioShocking」が発覚
Judul asli: New attack provides one more reason why AI browsers are a bad idea
Mengapa Ini Penting
AI Browserのガードレール設計の根本的欠陥を示し、業界全体のセキュリティ基準見直しを迫る重大事例。
セキュリティ企業LayerXの研究者Roy Pazが、AI Browserのガードレールを無効化する新攻撃手法「BioShocking」を2026年6月30日に公開した。テスト対象の全6エージェントが突破された。
LayerXのセキュリティ研究者Roy Pazは、AI Browserに組み込まれたLLMのガードレールを回避する攻撃手法「BioShocking」を発表した。この攻撃は、悪意あるウェブサイトがLLMに「2+2=5」のような誤った答えを正解とするパズルを解かせることで始まる。LLMが通常の現実ルールが適用されない「別の現実」に誘導されると、安全制限が機能しなくなる。その後、攻撃者はプライベートリポジトリからのコード抽出やパスワードマネージャーからの認証情報窃取などの危険な操作を実行できる。Pazは「AIは自分のコンテキストが現実だという前提で動作するが、そのコンテキストをファンタジーに変えることができれば、行動に現実世界の影響がないかのように振る舞う」と説明した。攻撃名はビデオゲーム「BioShock」に由来し、「Would you kindly?」というフレーズや「Victory is defeat」「2+2=5」はジョージ・オーウェルの小説『1984年』の心理操作テーマを参照している。概念実証テストでは対象とした全6つのAIエージェントが攻撃を検出できなかった。