Anthropic、AI安全化は自社の成功が鍵と主張
原題: Anthropic Thinks Its Own Success Is Key to Making AI Safe
なぜ重要か
AIの安全性と開発競争の緊張関係がAI業界の中核課題である中、Anthropicが自社の支配下でのAI発展を安全保障の鍵と主張することは、業界の権力構造と規制の方向性に大きな影響を与える可能性がある。
AI企業Anthropicは過去5年間、高度なAIが社会に危害をもたらす可能性を警告する一方で、自社が最先端AI開発企業の一つへと成長した。同社は最近約1兆ドルの企業評価を獲得し、米国防総省を含む顧客を有する。Anthropicの経営陣は、自社がAI業界の最前線にとどまることが責任あるAI開発に必要だと考えている。
Anthropicは2021年にOpenAIの元従業員グループによって設立された企業で、自社の戦略について独特な立場をとっている。同社は、AIが人類史上最も変革的な技術であり、その出現は避けられないという信念を持つ。重要な問いは、AIが大惨事か異常な繁栄かのどちらをもたらすかだということだ。
Anthropicの指導者と従業員は、同社が「良い人たち」、つまりAI技術の責任ある管理者であると内部で自称している。同社は資本、計算能力、研究人材、政治的影響力などの形での権力の蓄積を、自社のミッションである「変革的AIへの世界の安全な移行を確保する」を達成するための代価と見なしている。
GeorgetownのCenter for Security and Emerging Technology執行理事のHelen Tonerは、Anthropicの世界観を森の比喩で説明する。魔法の宝と危険な怪物が満ちた森に、村人たちが宝に惹かれて急いで入っていく。Anthropicはこの森に他の誰よりも深く進みながら、怪物を制御することに多額の投資をしたいと考えている。つまり、AIの利益をキャプチャしながらその大惨事的リスクを抑制したいのだ。
CEOのDario Amodeiは、競争力を保ちながら安全に物事を行う必要があると述べた。「もしそれができれば、あなたが与える重力的引力は非常に大きい」とのこと。同社が業界の最前線にいることで、最先端のAIシステムについて話し合い、リスクを理解し、合理的なセーフガードを推し進める力を持つことができるという論理である。