AIガードレールがサイバーセキュリティ研究を阻害
原題: How AI guardrails are impeding the work of offensive cybersecurity researchers
なぜ重要か
AIの安全規制とセキュリティ研究の両立という課題は、業界全体のAI活用ポリシー設計に大きな影響を与える問題として注目される。
AIモデルのガードレール（安全制限機能）が、悪意ある攻撃者への悪用を防ぐ一方で、正規のオフェンシブサイバーセキュリティ研究者の業務を妨げていることが明らかになった。2026年6月には米政府がAnthropicのAIモデル「Mythos」「Fable」に輸出規制を適用。研究者らはAIが脆弱性調査に不可欠なツールである現状を訴えている。
AIメーカー各社は数カ月にわたり、悪意あるハッカーによる悪用を防ぐため、厳格なガードレールと審査済みプログラムを整備してきた。しかしこうした制限が今、正規のネットワーク防衛者やオフェンシブサイバーセキュリティ研究者の業務を妨げる事態となっている。
2026年6月、米政府はAnthropicのAIモデル「Mythos」および「Fable」に輸出規制を適用した。きっかけの一つは、これらモデルのガードレールを回避して悪意あるサイバー攻撃に利用できるとする報告書だった。その後、「Fable 5」は7月1日に一般公開を再開し、「Mythos 5」は政府の審査プロセスの一環として審査済みの米国組織に限定して再提供されている。
AnthropicはCyber Verification Programを、OpenAIはTrusted Access for Cyberプログラムをそれぞれ設け、審査を通過した研究者にはより制限の少ないモデルアクセスを提供している。しかしこうした仕組みに対する批判は根強い。
セキュリティ研究者のMark Dowdは、サイバーセキュリティポッドキャストへの出演中、「大手企業が恣意的にセキュリティ上の安全基準を決めることに違和感を覚える」と発言した。Dowdは数十年にわたり、ソフトウェアメーカーへの報告ではなく西側諸国の政府への販売を目的に「ゼロデイ」脆弱性を発見してきた人物だ。
NCC Groupのチーフサイエンティスト、Chris Anleyは、AIモデルにバグの悪用を試みさせることが、それが修正に値する本物の脆弱性かを確認するうえで重要なステップだと説明する。ガードレールが回答を拒否した場合、防衛側にとって不利になると指摘した。「『このコードを修正せよ』というプロンプトは防御の本質的な手段でありながら、同時に重大な脆弱性を発見するロードマップにもなりうる」とAnleyは述べており、攻撃的・防御的双方の性質を持つ問い合わせをAIが一律に拒否することの問題点を強調している。