Anthropic、AI安全規制法案を議会に提案
原題: Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
なぜ重要か
AI規制の具体的基準を業界側が先手で提示したことで、今後の米国AI立法の議論の出発点となりうる重要な動きだ。
AnthropicがAIモデルの公開を阻止できる安全規制法案の草案を米議会に売り込んでいることが、Politicoの報道で明らかになった。法案は、50人以上の死亡リスクまたは10億ドル超の財産被害が「差し迫った予見可能なリスク」と判断された場合、生物兵器・サイバー攻撃・開発者の制御逃脱を起点としてモデルのリリースを差し止める枠組みを提案している。Anthropicの広報担当者は草案の存在をPoliticoに確認した。
Anthropicが独自のAI安全規制法案の草案を作成し、連邦議会への採用を働きかけていることが明らかになった。Politicoが報じた内容によると、同法案はモデルのリリース差し止めが可能なシナリオとして、「生物兵器の開発・使用」「開発者の制御からの逃脱」「サイバー攻撃」の3つを起点とした「差し迫った予見可能なリスク」を定義している。
具体的な閾値は、50人以上の死亡リスクまたは10億ドル超の財産被害。この数字はカリフォルニア州が最近成立させた「Senate Bill 53」が定める「壊滅的リスク」の定義と同一であり、Anthropicが同州の立法の枠組みを参照したとみられる。
リスク評価の仕組みとして、米商務省に登録された「独立評価者」がモデルの危険性を審査する体制を提案している。評価費用はAIラボが負担することも認めるが、「評価結果に報酬が連動しない」ことが条件とされる。ただし、支払いが評価の独立性に実際に影響を与えないことをどう担保するかは法案上明示されていない。
評価者が壊滅的リスクを認定した場合、72時間以内に商務省へ報告し、商務省がワシントンD.C.の裁判官にモデルのリリース差し止めを申請する手順が定められている。注目すべき点として、いかなる連邦機関も独自の判断でモデルの配布を停止する権限を持たないと法案は明記している。
Anthropicの広報担当者はPoliticoに対し草案の存在を認め、「この法案は今年6月から連邦・州の立法者に提唱してきた『Advanced AI Framework』に基づく提案だ」と述べた。TechCrunchの取材には即答しなかった。