米国政府のAnthropicモデル禁止令は「越獄」ではなかった
原題: The US government’s Anthropic models ban was never about an AI jailbreak
なぜ重要か
政府がAI企業を規制する際の透明性と根拠の欠如が露呈。セキュリティ専門家からの反発で、産業界における政策策定プロセスの信頼性が問われている段階。
米国商務省は6月15日、Anthropicに対してAnthropicの従業員を含む非米国人のアクセスを禁じる輸出規制指令を発動し、最新のAIモデル「Fable 5」と「Mythos 5」をオフラインに追いやった。同社は規制理由が不透明だと主張。専門家からは、AIモデルの「越獄」ではなく政治的判断が背景にあり、輸出規制は不適切との指摘が相次いでいる。
米国商務省がAnthropicに送付した執行通知は、不透明な国家安全保障上の懸念を理由に、同社の最新モデルへの非米国人アクセスを禁止する輸出規制指令を発動した。Anthropicは規制がモデルのガードレール（安全機構）の回避に関連していると推測するが、商務省の通知には具体的な詳細が記載されていない。
この規制により、Anthropicは両モデルをすべての顧客に対してシャットダウンし、合致に努めた。政府が司法承認なしに民間企業の製品をオフラインにする権限を行使した形となった。
事態の背景について、Axiosは引用元を明示して、Anthropicとトランプ政権の「個性の違い」が技術的問題ではなく規制指令の原因だと報道。週末に追加情報が浮上した。
サイバーセキュリティ専門家Katie Moussourisは、Anthropicがセキュリティ研究者による論文を共有してくれたと指摘。Amazon所属の研究者が執筆したこの論文はFable 5のガードレール回避について記述しているが、Moussourisは「この回避自体は輸出規制を引き起こすべきではない」とコメントした。
違いは、AIモデルに「セキュリティ問題のためコードをレビューする」と尋ねることと「このコードを修正する」と尋ねることの違いであり、最終的な結果はほぼ同じであるとMoussourisは説明。「論文に記された動作は根本的に修正できず、修正試行は防衛能力を弱体化させるだけ」とした。
Moussourisを含む数十人のセキュリティ専門家は、この輸出規制指令を「性急で強硬で間違った決定」と批判し、トランプ政権に取り消しを求めた。