米政府がAnthropic製AIモデルへのアクセス停止を指示
原題: Statement on US government directive to suspend access to Fable 5 and Mythos 5
なぜ重要か
AIモデルの国家安全保障リスクが現実化し、政府による直接規制が始まった重要な転換点
AnthropicはFable 5とMythos 5への外国人のアクセスを停止すると発表した。米政府が国家安全保障上の理由でアクセス禁止を指示したため。政府はこれらのモデルに脆弱性を発見する「ジェイルブレイク」手法が存在すると判断したとしている。
Anthropicは6月12日、米政府から国家安全保障当局の権限に基づき、外国人によるFable 5とMythos 5へのアクセスを停止するよう指示を受けたと発表した。この指示により、同社は全ての顧客に対してこれらのモデルへのアクセスを緊急停止する必要があるとしている。他のAnthropicモデルへのアクセスには影響しない。
同社は東部時間午後5時21分に政府から指示を受けた。書面では具体的な国家安全保障上の懸念の詳細は示されていないという。同社の理解では、政府がFable 5のセーフガードを迂回する「ジェイルブレイク」手法の存在を認識したとしている。
Anthropicは、確認された脆弱性は既知の軽微なものであり、他の公開モデルでもバイパス手法なしに発見可能だと説明している。同社はFable 5のローンチに先立ち、米政府、英国AISI、複数の第三者機関と数千時間のテストを実施。これらのテストではFable 5のセーフガードが従来モデルより大幅に効果的であることが示されたとしている。
同社は完全なジェイルブレイク耐性は現在不可能とし、多層防御戦略を採用していると述べた。顧客データの30日間保持ポリシーもこの戦略の一環としている。