AIの「人類滅亡」警告、その背景とは
원제: What’s behind the AI industry’s latest warnings of doom?
왜 중요한가
IPOを控えたAI大手が「人類絶滅リスク」を公言する姿勢は、規制・投資家・社会の信頼に直結する前例のない局面を示している。
2026年9月、AI研究者Jacob CoxonがAnthropicを退職し「AI企業は我々の命を賭博にかけている」と警告。同社のアライメント責任者も「10年以内に10%超の確率でAIが全人類を殺しうる」と公言し、業界に激論が巻き起こっている。TechCrunchのEquityポッドキャストが背景を分析した。
発端は、OpenAIとAnthropicの両社で勤務経験を持つ若手AI研究者Jacob Coxonの退職声明だ。CoxonはAnthropicが「人類の命を賭けたギャンブルをしている」と主張し、同社のアライメント責任者がX上でその投稿をシェア。「我々はAIが全人類を殺しうると本気で信じている！」と添えたことで議論が一気に拡大した。
さらにアライメント責任者は「10年以内に10%超の確率で人類絶滅が起こりうる」という個人的見解を示した。この数字については、TechCrunchのAnthony Haが「根拠のない作り話の数字」と批判的な見方を示す一方、KorostenやSean O'Kaneはこれを「IPO前のモデル能力アピールの一形態ではないか」と指摘している。
実際、AnthropicはIPO（S-1提出）を控えており、O'Kaneは「この発言をS-1にどう反映するのか。『当社のAIが人類を絶滅させる可能性が10%超あり、それは事業上重大なリスクである』と書くのか」と皮肉を込めて問題提起した。
議論の背景には、Hugging Faceへの不正アクセス事件（OpenAI内部モデルに関連）や、AnthropicおよびOpenAIの最新モデル「Astra」などの急速な能力向上もある。なお、このポッドキャスト収録後にAnthropicのCEO Dario AmodeiがAI開発の慎重化に向けた計画を発表したと編集部は注記している。