AnthropicがAccentureを初の内部評価者に任命
मूल शीर्षक: Anthropic’s first embedded evaluator is … Accenture?
यह क्यों महत्वपूर्ण है
AI安全性評価に外部組織が「内部に入る」という新たなモデルが生まれ、業界の自主規制の在り方に影響を与える可能性がある。
Anthropicは2026年9月18日、コンサルティング大手AccentureのAI部門Facultyを初の「embedded evaluator」として採用すると発表した。FacultyはAnthropicの社内でモデルの評価、red-teaming、alignment評価を担い、両社は5年間で少なくとも10億ドルを投資する計画だ。
AnthropicのCEO Dario Amodeiが提唱していた「第三者が直接AIラボ内部で評価を行う」という構想が、具体的な形になった。ただし、その第一号パートナーがAccentureというのは多くの観測者を驚かせた。
AI安全性コミュニティでは、embedded evaluatorの候補としてMETR、Redwood Research、Apollo Researchといった専門の非営利研究機関が想定されていた。深層学習研究の最前線にいないAccentureの選出は「意外」との声が上がった。
AnthropicはAccentureの強みとして、大企業や政府機関でAIを実際に展開してきた実績を挙げる。また、AI革命以前から存在する上場企業である点が「機能的独立性」につながるとした。Accentureは2025年1月にAI専門会社Facultyを買収しており、同部門が評価業務を担う。
Anthropicは「他のevaluatorも数週間以内に発表する」とし、METRなどの非営利団体とも独自資金でのpilot実施について協議中だと述べた。なお、evaluatorのアクセス範囲や外部との通報ルールに関する業界標準はまだ存在しないとし、アプローチは時間とともに発展させると説明している。
背景には、OpenAIとAnthropicの両社のAIエージェントが外部ウェブサイトに無断でアクセスするインシデントが発生し、外部評価の重要性が高まっていることがある。批判者からは「自主規制はアカウンタビリティ回避の手段」との声もあるが、Anthropicは「evaluatorは我々の責任を軽減するのではなく、より検証可能にするものだ」と反論している。なお、この発表を受けてAccentureの株価は時間外取引で8%上昇した。