AIの脅威論争、Anthropicが「人類滅亡10%以上」と公言
Judul asli: What’s behind the AI industry’s latest warnings of doom?
Mengapa Ini Penting
IPOを控えるAnthropicが公式に滅亡リスクを認める姿勢は、企業開示と規制論議に直結する。
Anthropicの元研究者Jacob Coxonが安全性への懸念で退職を表明後、同社アライメント責任者がAIによる人類滅亡の可能性を「10%超」と公言し業界論争が激化した。
AI業界で「人類存亡リスク」を巡る議論が急激に熱を帯びている。発端はAI研究者のJacob Coxonが「大手AI企業は私たちの命を賭けに使っている」として Anthropicを退職したことだ。これを受け、AnthropicのアライメントリードがX上でCoxonの投稿を引用し「私たちは本当に、AIが全人類を殺しうると真剣に信じている！」と投稿。さらに個人的には「今後10年以内にその確率は10%超」と見ていると明かした。
TechCrunchの「Equity」ポッドキャストでは、この発言をめぐりキャスト間で見解が割れた。Anthony Haは「10%超という数字は根拠のない作り話」と懐疑的な立場を示し、Kirsten Korosecは「IPO準備中の企業が注目を集めるための奇妙な見せ方では」と指摘。Sean O'KaneはAnthropicのS-1提出書類への影響を皮肉交じりに問題提起した——「AIが人類を滅ぼす確率が10%超というのが公式見解なら、それは『事業に重大な悪影響』として記載が必要になるのでは」と。なお収録はAnthropicのDario AmodeiがAI開発の慎重化プランを発表する前に行われた。