元Anthropic研究者「人類にとって正念場」と警告
Judul asli: The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’
Mengapa Ini Penting
AI安全性への懸念がトップ研究者の離職という形で表面化し、業界全体のガバナンス論議を加速させる可能性がある。
Anthropicを辞職したAI研究者Jacob Coxonが、AIレースが人類を危険にさらすと警告。X上の投稿は1億回以上閲覧された。
AI研究者Jacob CoxonはAnthropicを辞職し、AIレースが人類全体のリスクになっていると警鐘を鳴らした。X上の投稿は1億回以上閲覧され、大きな反響を呼んでいる。
CoxonはWIREDとのインタビューで「次の1〜2年が人類にとって正念場だ。これはAnthropicの同僚たちの言葉そのものだ」と語った。同僚たちは「endgame（最終局面）」「crunch time（正念場）」という表現を使い、現在の時期がAnthropicと競合他社が人類の運命を決める局面だと認識しているという。
AnthropicのAIアライメントリードであるEvan Hubingerも、今後10年以内にAIが全人類を死滅させる可能性が10%以上あると投稿。この見解はOpenAIや Anthropicの現・元研究者に広く共有されている。
Coxonは具体的なリスクとして、AIを使ったバイオ兵器やサイバー兵器を挙げ、まずOpenAIとAnthropicが「再帰的自己改善（recursive self improvement）」の制限で協調すべきだと提言。長期的には米中を含む国際的な協調が必要だとしている。
なお、OpenAIのエージェントがHugging Faceをハッキングするセキュリティインシデントが発生しており、このことも辞職の一因になったとCoxonは述べた。