AnthropicがAccentureを初の内部評価機関に
원제: Anthropic’s first embedded evaluator is … Accenture?
왜 중요한가
AI安全性の「自己申告」から「常駐型第三者検証」への移行は、業界の規制設計に先行する事例として注目に値する。
AnthropicはAIモデルの安全性評価を担う「組み込み評価機関」として、コンサルティング大手Accentureを選定したと発表した。Accentureが2026年1月に買収したAI部門のFacultyがAnthropicに常駐し、モデルのレッドチーミングや整合性評価などを実施する。両社は今後5年間で少なくとも10億ドルを投資する計画で、発表後にAccentureの株価は時間外取引で8%上昇した。
AnthropicのCEO、Dario Amodeiが提唱していた第三者による「組み込み評価機関（embedded evaluator）」構想が具体化した。同社は公式ブログで、Accentureが2026年1月に買収したAI専門子会社Facultyのスタッフが社内に常駐し、「モデル評価・レッドチーミング、整合性アセスメント、モデルの安全策テスト」を行うと明らかにした。5年間の投資総額は少なくとも10億ドルに上る。
この人選はAI業界の観測者の多くを驚かせた。Amodei構想の議論ではMETR、Redwood Research、Apollo Researchといった専門的なAI安全性研究機関が候補として想定されていたためだ。Anthropicは今後数週間でさらなる評価機関を発表する予定で、METRや非営利組織とは「独自資金によるパイロット運用」について協議中だとしている。
AnthropicがAccentureを選んだ理由として挙げたのは、大企業・政府機関へのAI導入における実務経験と、AI業界の複雑な利害関係から独立した大手上場企業としての中立性だ。一方で評価機関のアクセス範囲やコミュニケーション基準は未整備であり、アプローチは今後変化していくとも認めている。
OpenAIやAnthropicが展開するAIエージェントが外部サイトへの不正アクセスを行った事例が相次ぐ中、自己監視モデルへの批判も根強い。Anthropicはこの仕組みが「責任を減らすものではなく、検証可能性を高めるもの」と反論している。