AnthropicがAccentureを初の内部安全評価者に指名
Judul asli: Anthropic’s first embedded evaluator is … Accenture?
Mengapa Ini Penting
AI安全評価の商業化と大手コンサルの台頭が業界標準形成に影響を与える
AnthropicはAccentureの傘下Faculty社をAIモデルの内部評価者に起用。5年間で少なくとも10億ドルを共同投資し、レッドチーミングやアライメント評価を実施する。
AnthropicはCEO Dario Amodeiが提唱してきた「第三者埋め込み評価者」構想の第一弾として、コンサルティング大手Accentureを選定した。同社がAI部門として1月に買収したFaculty社のスタッフがAnthropic社内に入り込み、モデルの評価・レッドチーミング、アライメント審査、安全策のテストを担当する。両社は5年間で少なくとも10億ドルを投資する計画だ。
この発表はAI業界の多くの観測者を驚かせた。Amodeiの構想に関する議論ではMETR、Redwood Research、Apollo Researchといった非営利のAI安全研究機関が候補として挙がっていたからだ。Accentureは深層学習研究の最前線とは縁遠いが、Anthropicは大企業や政府機関へのAI導入における同社の実績と、AIブーム以前から存在する公開企業としての独立性を評価理由に挙げた。Anthropicは今後数週間で追加の評価者を発表し、METRなどとのパイロット協議も進めると述べた。
Anthropicは「評価者の導入は我々の責任を軽減するものではなく、説明責任をより検証可能にするものだ」と強調。発表後、Accentureの株価は時間外取引で8%上昇した。