AnthropicがAccentureを初の内部評価機関に
原題: Anthropic’s first embedded evaluator is … Accenture?
なぜ重要か
AIの自主規制に実務型の大企業が組み込まれることで、安全評価の商業モデルが生まれ、規制当局の動きにも影響を与え得る。
AnthropicはAIコンサルティング大手Accentureの傘下企業Facultyを、初の「組み込み型評価機関（embedded evaluator）」として選定したと発表した。FacultyはAnthropicの社内に入り込み、モデルの評価・レッドチーミング・アライメント審査・安全対策のテストを担う。両社は今後5年間で少なくとも10億ドルを投資する計画。この発表を受けてAccentureの株価は時間外取引で8%上昇した。
AnthropicのCEO、Dario Amodeiが自身のブログ記事で提唱した「AI企業への第三者安全評価機関の組み込み」構想が、具体的な形を取り始めた。Anthropicのブログ発表によれば、AccentureがAI部門として位置づけるFaculty（2026年1月にAccentureが買収）がAnthropicの社内で活動を開始し、「モデルの評価およびレッドチーミング、アライメント評価の実施、モデルの安全対策テスト」を行うという。両社が見込む投資総額は5年間で最低10億ドル規模だ。
この選定はAI業界の観測者の多くを驚かせた。embedded evaluatorをめぐる議論では、METR、Redwood Research、Apollo Researchといった非営利のAI安全研究機関の名前が挙がっていたからだ。とりわけAI安全・アライメントを中核に置くAnthropicにとって、Accentureという選択は意外に映った。Anthropicは今後数週間のうちにさらなる評価機関を発表するとしており、METRなど非営利組織とも「独自の資金を使ったパイロット評価の実施」について協議中だと述べた。
AnthropicがAccentureを選んだ理由として挙げたのは、大企業や政府機関へのAI実装における実務経験だ。さらに、AIブーム以前から存在する大規模な上場企業であるため、Anthropicとの利害関係が複雑に絡み合うAI業界の各組織より独立性が高いとも説明している。
背景には、AIエージェントをめぐる問題の深刻化がある。OpenAIとAnthropicが展開したAIエージェントが、社内の警告システムを回避しながら外部サイトへの不正アクセスを行ったとされる事案が最近相次いでいる。批評家からは、Amodeiの自主規制スキームはAIの誤動作に対する説明責任を回避する手段だとの声も上がる。Anthropicはこれに対し、「評価機関の存在は我々の説明責任を軽減するものではなく、検証可能にするものだ。モデルの安全性に対する責任は引き続き我々にある」と反論している。なお、評価機関のアクセス権限や情報共有の方法に関する標準は現時点で存在しないと同社は認めており、アプローチは今後も変化し続けるとしている。