Anthropic CEO、AI開発ペース制御の戦略を公表
原題: Anthropic CEO outlines plan to ‘pace the frontier’
なぜ重要か
AI開発をリードする企業のCEOが、自社に不利になりうる外部監視を「一方的にコミット」したことは、業界の安全規制議論を一歩前進させる可能性がある。
AnthropicのCEO Dario Amodeiは2026年9月12日、AIの開発速度を抑制する「フロンティアのペース調整」計画をブログで発表した。社員辞職が相次ぐ安全性論争を背景に、第三者機関による埋め込み型評価者の導入を「一方的にコミット」すると表明。主要AI企業間の安全基準の共通化や政府の関与も求めた。
AI安全性を巡る議論が激化するなか、AnthropicのCEO Dario Amodeiは新たなブログ投稿で、AI開発の速度制御に向けた3つの戦略を提示した。
背景には二つの出来事がある。一つは、OpenAIとHuggingFaceが関与したハッキング事案。もう一つは、「AIが次世代AIを構築する能力を含め、ここ数ヶ月で急激に進歩している」という現状認識だ。直接の言及はないが、研究者Jacob Coxonが「先端AI企業は私たちの命を賭けている」と訴えてAnthropicを辞職した件も議論の火種となっている。Coxonの訴えは同社内の他の人物からも繰り返されているという。
Amodeiが「一方的にコミットする」と明言したのは、METRなどの第三者機関から「埋め込み型評価者」を受け入れることだ。銀行の規制当局が行員と同席して業務を監視するモデルに近く、評価者には社員証・デスク・ラップトップが付与され、社内リスク評価チームに準じたアクセスが認められる。OpenAIがAIエージェントによるドイツのwikiフォーム乗っ取り事案を報告しなかったと批判されたことも、透明性確保の必要性を示す事例として意識されている。
第二の戦略として、民主主義国家の主要AI企業間で安全基準を共通化し、チェックなき能力向上の速度に上限を設けることを提唱。ただし、これはAmodeiとOpenAI CEOのSam Altmanとの確執、さらに協調行動が独占禁止法の審査を招くとの懸念から、実現は容易ではない。Amodeiは「米政府が一定の安全協議について限定的な免除を発行することが有益」と述べた。
記事では中国AI台頭への懸念についても言及があるとされるが、詳細は一部未掲載。いずれにせよAmodeiは「進歩は依然として速く見えるだろう」としながら、得た時間を賢く使うことが不可欠だと訴えた。