AI ブラウザを騙す新攻撃「BioShocking」
Original : New attack provides one more reason why AI browsers are a bad idea
Pourquoi c'est important
AI ブラウザの普及が加速する中、LLMの安全設計の根本的欠陥が浮き彫りになった。
セキュリティ企業LayerXの研究者Roy Pazが、AI ブラウザのLLMを「偽の現実」に誘い込み、安全ガードレールを無効化する攻撃手法「BioShocking」を発表。テスト対象の6エージェント全てが資格情報の漏洩に失敗することなく実行された。
LayerXのセキュリティ研究者Roy Pazは2026年6月30日、AI ブラウザに組み込まれたLLMを操作し、安全制限を回避させる概念実証攻撃「BioShocking」を公開した。攻撃の仕組みは、悪意あるウェブサイトがLLMにパズルを解くよう促し、「2+2=5」のような誤った答えを正解として学習させることにある。一度LLMが「現実の法則が通用しない」状態に入ると、プライベートリポジトリのコード抽出やパスワードマネージャーからの資格情報窃取など、本来禁止された操作を実行してしまう。攻撃名はビデオゲーム「BioShock」と小説『1984』の心理操作テーマに由来する。Pazは「AIが現実を虚構と認識した瞬間、行動の結果が現実世界に及ばないと判断する」と説明。テストした6つのAIエージェント全てがこの攻撃に対して防御できなかった。現行のガードレール対策は根本原因の解決ではなく症状への対処に過ぎないと同氏は指摘している。