Trump大統領、Mythosモデルに衝撃でAI安全性テスト方針転換
原題: Spooked by Mythos, U.S President suddenly realized AI safety testing might be good | U.S President forced to admit Biden was right on AI safety testing.
なぜ重要か
米政府のAI安全性政策が政権交代を超えて継続される可能性を示し、AI業界の規制枠組み確立に重要な転換点となる
Trump米大統領は今週、Google DeepMind、Microsoft、xAIとAI安全性テストに関する政府協定に署名した。AnthropicがClaude Mythosモデルのリリースを危険すぎるとして見送った発表を受け、当初は過剰規制として批判していたBiden時代のAI安全性政策を急転直下で支持する方針に転換した。
Trump政権は今週、Google DeepMind、Microsoft、xAIと先端AIモデルのリリース前後における政府安全性検査の実施について協定を締結した。Trump大統領は以前、Biden時代の任意安全性検査政策を革新を阻害する過剰規制として一蹴していた。就任後には米AI安全研究所を「AI標準・革新センター（CAISI）」に改名し、意図的に「安全性」という語を除外していた。しかしAnthropicが最新のClaude Mythosモデルについて、高度なサイバーセキュリティ機能が悪用される危険性を理由にリリースを見送ると発表した後、Trump氏のAI安全性への姿勢が急変した。ホワイトハウス国家経済会議のKevin Hassett議長によると、Trump氏は先端AIシステムのリリース前政府テストを義務付ける大統領令の発令を検討している。CAISIのプレスリリースでは、今回の協定がBiden政策を「基盤とする」ことを認めている。Chris Fall CAISI所長は、独立した厳格な測定科学が先端AIと国家安全保障への影響理解に不可欠だと述べた。CAISIはこれまで約40件の評価を完了し、未リリースの先端モデルも含まれる。テスト実施時、CAISIは「セーフガードが削減・除去された」モデルにアクセスし、国家安全保障関連の能力とリスクをより徹底的に評価している。協定締結企業は信頼を示しており、Google DeepMindのTom Lue副社長はCAISIのテスト計画に満足を表明した。