Anthropic CEO, AIペース調整の3戦略を公表
Judul asli: Anthropic CEO outlines plan to ‘pace the frontier’
Mengapa Ini Penting
大手AI企業CEOによる自主的な第三者監査受け入れ表明は、業界規制の先例となりうる
Anthropic CEO Dario Amodeiは、AI開発の速度を抑制する3つの戦略を公表。うち1つ、第三者評価者の社内受け入れをAnthropicが単独で実施すると表明した。
Anthropic CEOのDario Amodeiは新たなブログ投稿で、AI開発の「フロンティアのペース調整」を求める声に同調しつつ、具体的な3つの戦略を提示した。背景には、同社の研究者Jacob CoxonがAI大手企業は「私たちの命を賭けてギャンブルをしている」と訴えて退職したこと、さらにOpenAI-HuggingFaceのハッキング事件と、AIが「次世代AIを構築する能力を急速に獲得している」という状況がある。
Amodeiが「単独でコミットする」と明言したのは、METRなどの第三者機関から「埋め込み評価者」を受け入れる策だ。評価者には社員証、デスク、ノートPCを提供し、内部リスク評価チームとほぼ同等のアクセス権を付与する。銀行監督当局が金融機関に常駐するモデルと比較した。
2つ目は、民主主義国家内のAI大手間での共通安全基準の調整。ただし、競合他社との協調には独占禁止法上のリスクがあるとしてAmodeiは米政府による仲介、または「特定の安全会話に対する限定的免除」の発行を求めた。3つ目の戦略の詳細は記事中では省略されているが、中国のAI台頭という懸念にも言及した。