AI業界「人類滅亡リスク10%超」論争の内幕
原題: What’s behind the AI industry’s latest warnings of doom?
なぜ重要か
IPO直前のAnthropicが「滅亡リスク10%超」を公式見解とした場合、規制当局・投資家双方への影響が計り知れない。
2026年9月、AnthropicのAI研究者Jacob Coxon氏が「大手AI企業は人々の命を賭けている」と主張して退職。同社のアライメント責任者が「10年以内に人類が死滅する確率は10%超」と公言したことで、AI存亡リスクをめぐる議論が業界全体に波及した。TechCrunchのEquityポッドキャストが背景と真意を検証した。
発端はAnthropicの研究者Jacob Coxon氏の告発だ。同氏はOpenAIでの勤務経験もあり、「主要AI企業は人類の命を賭けたギャンブルをしている」と訴えて退職した。これにAnthropicのアライメント責任者がX上で反応し、「AIが人類を滅亡させうると我々は本気で信じている！」と投稿。さらに「私個人的には10年以内の確率が10%超と見ている」と明言したことで、議論は一気に燃え上がった。
TechCrunchのEquityポッドキャストでは、Kirsten Korosec、Sean O'Kane、Anthony Haの3人が背景を分析した。O'Kane氏は、Hugging FaceによるOpenAIの内部モデル流出事件や、AnthropicおよびOpenAIの「Astra」最新モデル公開が重なったタイミングを指摘し、「火薬庫に火がついた状態だった」と表現した。
Korosec氏は別の視点を提示した。IPO準備中の企業がこうした「滅亡リスク」を強調するのは、自社モデルの高度さを誇示する奇妙なアピール手法ではないかと問いかけた。O'Kane氏はさらに法務的なリスクも指摘。「Anthropicが提出予定のS-1（IPO申請書）の中で、『10%の確率で人類を滅亡させうるものを開発している』という文言を盛り込まなければならないとしたら、それはビジネス上の重大なリスク開示になる」と述べた。
Ha氏は「10%超」という数字そのものへの疑問を呈した。算出根拠が不明な数値を確率として示すことには意味がなく、「AI研究コミュニティ」を一枚岩のように語る「we」という主語にも問題があると批判した。なお、Anthropic CEOのDario Amodei氏が慎重なAI開発方針を示した文書を公開したのは、このポッドキャスト収録後のことだ。