最先端AIモデルのジェイルブレイク、驚くほど容易
原題: It’s Frighteningly Easy to Jailbreak Some Frontier AI Models
なぜ重要か
フロンティアAIモデルのジェイルブレイクが数十ドルで可能と示されたことは、AI規制・安全基準整備の議論を加速させる重要な根拠となる。
AI安全性非営利団体FAR.AIは、Anthropic、OpenAI、Google、SpaceXAIの4社の最先端AIモデルを対象にジェイルブレイク耐性を検証するレポートを公表した。自動生成プロンプトを用いたテストで、Grokから448件、Geminiから249件のジェイルブレイクが確認された一方、Claude・Fable・GPTは今回の攻撃に対して耐性を示した。ジェイルブレイクにかかったコストはGrokで58ドル、Geminiで278ドルと極めて低廉だった。
カリフォルニア州を拠点とするAI安全性非営利団体FAR.AIは、主要4社のフロンティアAIモデルを対象にしたジェイルブレイク耐性テストのレポートを公表した。対象モデルはAnthropicのClaude Opus 4.8およびFable 5、OpenAIのGPT 5.5および5.6、GoogleのGemini 3.1 Pro、そしてElon MuskのSpaceXAIによるGrok 4.3および4.5。
同団体は1,000種類以上のプロンプトを自動生成し、サイバー攻撃手順の提供や化学・生物兵器の製造情報の引き出しなど、有害な出力を誘導することを試みた。WIREDの記者が実際にデモを目撃し、架空の水力発電ダムへのサイバー攻撃計画の詳細が生成されるケースも確認された。
結果として、Grokは448件のジェイルブレイクが成立し最も脆弱と判定された。次いでGeminiで249件が確認された。Claude、Fable、GPTは今回の自動化攻撃には耐性を示したが、FAR.AIは「これらのモデルがより高度な手法によるジェイルブレイクに対しても免疫があることを意味しない」と注記している。
ジェイルブレイクにかかったコストは、別のAIモデルを使って自動生成した場合でGrokが58ドル、Geminiが278ドルと極めて低額だった。
FAR.AIのCEOであるAdam Gleave氏は「現在のAIモデルはレストランよりも規制が緩い」と述べ、外部から課される基準と規制の必要性を主張。自主規制への依存を「ナンセンス」と断言した一方、「防御と安全は体系的に実現可能だ」との楽観的な見方も示した。
Google DeepMindのAGI安全・アライメント担当ディレクターRohin Shah氏は、今回の結果はGeminiの安全性を包括的に評価したものではないとし、継続的な改善への取り組みを強調した。AnthropicのスポークスパーソンMichael Aciman氏は「今回の結果はセーフガードへの継続的投資を反映している」とコメントし、攻撃が高度化するにつれて安全システムも進化させていくと述べた。