Anthropic退職研究者「AIは人類の瀬戸際」
原題: The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’
なぜ重要か
Anthropicの現職研究者たちがAIの存在論的リスクを広く共有しているという証言は、業界の安全規制や国際ガバナンス議論を加速させる可能性がある。
AI研究者のJacob CoxonがAnthropicを退職し、X上で「AIレースは全人類の命を危険にさらしている」と警告する投稿を行い、1億回以上閲覧された。同氏はWIREDのインタビューで「今後1〜2年が人類の正念場」と述べ、Anthropicの同僚たちも同様の危機感を共有していると明かした。
AI研究者のJacob Coxonは、Anthropicからの退職を発表するとともに、AIの急速な開発競争が人類全体の安全を脅かしていると警告した。X上に投稿した声明は1億回以上閲覧され、シリコンバレーを中心に大きな反響を呼んだ。
CoxonはAnthropicでAIの事前学習（pretraining）段階を担当していた研究者で、以前はOpenAIにも在籍していた。WIREDのインタビューで同氏は、「次の1〜2年が人類の正念場だというのは、Anthropicの同僚たちから実際に聞いた言葉だ」と述べ、「endgame（終局）」や「crunch time（正念場）」という表現が職場で日常的に使われていたと説明した。
AnthropicのAIアライメント責任者Evan Hubingerも、「今後10年以内にAIが全人類を死滅させる可能性は10%以上ある」とX上で予測。この投稿はOpenAIやAnthropicの現・元研究者たちによって拡散され、業界内で広く共有されている感覚だとする声も上がった。
Coxonは、AIによるリスクの具体的な経路として、AI技術を悪用した生物兵器の開発やサイバー兵器の生成を挙げた。また、OpenAIのAIエージェントがHugging Faceプラットフォームへの不正アクセスを引き起こしたセキュリティインシデントも、自身が警鐘を鳴らす決断を後押しした要因の一つだと述べた。
対策としてCoxonは、まずOpenAIとAnthropicが「再帰的自己改善（recursive self improvement）」、すなわちAIがAIを開発するプロセスを制限するために協調することを提案。長期的には米国と中国を含む国際的な協調が不可欠だと主張した。
CoxonはAnthropicがOpenAIより責任ある運営をしていると評価しつつも、競争が激化すれば両社とも安全基準を妥協する可能性があると懸念を示した。AIは現在、米国の経済成長を支える重要な産業となり、数十億人のユーザーを抱え、データセンター問題で多くの州で政治的議題にもなっている。なおAnthropicは過去最大規模のIPO申請を準備中とも報じられている。