AnthropicがClaude Fable 5を米政府命令で停止
原題: Anthropic Says It’s Taking Claude Fable 5 Offline to Comply With US Government Order
なぜ重要か
AI規制強化の具体例として、政府がAI企業の技術公開に直接介入する前例となり、業界全体の開発・展開戦略に影響を与える可能性がある。
AI企業Anthropicは12日、米政府から国家安全保障上の懸念を理由とする輸出規制指令を受け、今週発表したAIモデル「Claude Fable 5」と「Mythos 5」へのアクセスを停止すると発表した。政府はモデルの「ジェイルブレイク」手法を発見したと主張している。
Anthropicは金曜午後5時21分に米政府から書簡を受け取ったと発表した。同社によると、政府は外国人（米国内外問わず、同社の外国人従業員も含む）へのアクセス停止を求めたが、確実な遵守のため全顧客へのアクセスを停止した。今年初め、トランプ政権の国防総省は軍事利用に関する同社の姿勢を問題視し、Anthropicを「サプライチェーンリスク」に指定していた。火曜日に公開されたClaude Fable 5は、サイバーセキュリティ、生物学、化学に関する質問回答を制限するセーフガードを備えたMythos AIモデルの版で、4月にプレビュー版として限定公開されていた。同社は政府との協力の下、組織の防御力向上を目的として公開したと説明。政府は「ジェイルブレイク」手法を発見したとしているが、Anthropicは詳細な証拠は示されておらず、発見された脆弱性は軽微で他の公開モデルでも発見可能だと反論している。