米政府のAnthropicモデル輸出禁止に サイバーセキュリティ専門家が抗議
原題: Cybersecurity vets protest ‘dangerous’ US government ban on Anthropic’s most powerful models
なぜ重要か
高度なAIモデルのセキュリティ上の利用と制限のバランスについて、サイバーセキュリティ業界の方針決定に直接影響を与える重要な議論であり、米国のAI規制方針の転換点となる可能性がある。
米国政府がAnthropicの高性能モデル「Fable」と「Mythos」の輸出を制限したことに対し、76人のサイバーセキュリティ専門家が公開書簡を発表。書簡では「防御側から最高の機能を奪うことは危険」と指摘し、禁止措置の解除を要求。同措置はセキュリティ上の懸念を理由に6月14日に発令された。
米国政府が金曜日にAnthropicのFableとMythosモデルの輸出制限を命じたことに対する抗議として、76人のサイバーセキュリティ専門家が公開書簡を公表した。署名者にはFacebook前セキュリティチーフのAlex Stamos、バグバウンティプラットフォームBugcrowdの創業者Casey Ellis、暗号学者でApple元セキュリティ設計マネージャーのJon Callas、Block元応用セキュリティエンジニアリング部長のDino Dai Zoviなどが含まれている。
書簡では「防御側から最高の機能を奪うことは、敵対勢力が急速に進む中で危険である」と述べられている。Mythosは4月にプレビュー版として公開された際、セキュリティ脆弱性の発見において極めて強力なため、悪意のあるハッカーや外国の敵対勢力が利用されることを防ぐため厳しくアクセスを制限する必要があるとAnthropicが主張していた。最初は約50社に限定されていたが、最近15カ国の約150の組織に拡大された。
Anthropicは先週、Mythosの公開版であるFableをリリースした。同社は生物学、化学、サイバーセキュリティ分野での使用を阻止し、モデルの蒸留を防ぐための厳格なガードレールを搭載していると述べていた。しかしこれらのガードレールは非常に厳格で、多くのサイバーセキュリティ専門家がサイバーセキュリティ関連のほぼすべてのプロンプトを遮断することに気づいた。
Anthropicによると、ホワイトハウスの輸出管理命令はFableのガードレールを回避してMythosレベルの機能を引き出す方法があるという報告に基づいていた可能性があるという。署名者の一人であるKatie Moussourisは、この方法はAmazonの研究者が発表した論文（非公開だが彼女が確認済み）で実証されたと述べた。