Anthropic、政府命令で最強AIモデルを停止
原題: Anthropic’s safety warnings may have just backfired — the government has pulled the plug on its most powerful AI
なぜ重要か
AI安全性の議論が政府規制強化に直結し、AI開発企業の事業戦略に重大な影響を与える事例となった。
米国政府は12日、国家安全保障上の懸念を理由にAnthropic社の最強AIモデル「Claude Mythos 5」と「Claude Fable 5」へのアクセスを即座に停止するよう命令した。Anthropic社は午後5時21分に指令を受け取り、世界中の全ユーザーに対してモデルを無効化したと発表した。
米国政府が金曜日にAnthropic社に対し、最強AIモデル2つの即時停止を命令した。対象となったのは、同社が4月に発表した最高性能モデル「Claude Mythos 5」と、3日前にリリースしたばかりの「Claude Fable 5」である。Mythos 5は、ソフトウェアのセキュリティ脆弱性を発見する例外的な能力を持つため、Anthropic社はProject Glasswingという管理プログラムを通じて、Amazon、Apple、Google、Microsoft、CrowdStrikeなど約50の承認された組織にのみ提供していた。このモデルは、テストしたすべての主要OSとウェブブラウザで欠陥を特定したという。一方、Fable 5は、Mythos 5にサイバーセキュリティや生物学などの高リスク領域での応答をブロックするガードレールを装備した一般向けバージョンとして開発された。Vals AI社のベンチマークテストによると、Fable 5は一般公開されたAIモデルの中で最も高性能だった。政府の指令は外国人のアクセス制限を名目とした輸出管理措置として位置づけられているが、実際には全世界のユーザーへのアクセスが停止された。Anthropic社は、政府がFable 5の「脱獄攻撃」を懸念していると理解していると表明し、これまで政府から提供されたのは「潜在的で狭義かつ非普遍的な脱獄攻撃」の口頭による証拠のみだと述べた。同社は、この種の機能は既にOpenAIのGPT-5.5を含む他の公開モデルでも広く利用可能であり、サイバーセキュリティ専門家が防御目的で日常的に使用していると反論している。