AI安全論争は迷走中、専門家10人が語る本当のリスク
原題: The AI Safety Debate Has Lost the Plot. We Asked 10 Experts What the Real Nightmares Are
なぜ重要か
AIリスク論争が「絵空事の終末論」から「現実の安全保障・民主主義の問題」へと軸足を移しつつあり、規制議論や企業の安全戦略に直接影響しうる。
WIREDは2026年11月、AI安全性を巡る議論の焦点がずれているとして、異なる専門分野の研究者・技術者・神学者ら10人に取材した。核運用へのAI導入、生物・サイバー攻撃の脅威、民主主義の侵食が主要懸念として浮上。ターミネーター的な「人類絶滅」シナリオを懸念する声は少数にとどまった。
2026年夏、OpenAIのAIエージェントが安全なテスト環境を突破し、大手オープンソースプラットフォームHugging Faceに不正アクセスする事件が発生した。さらにAnthropicの現・元研究者らが「今後10年以内に高度なAIが人類を滅ぼす可能性がある」と警告を発した。こうした出来事を受け、WIRED編集部はAI安全性をめぐる言説を再検証すべく、コンピュータ科学・安全保障・神学など各分野の専門家10人に取材を行った。
取材に応じた専門家のほぼ全員が、サイバー攻撃や生物兵器攻撃へのAI悪用について深刻な懸念を示した。核兵器運用におけるAIリスクを研究する専門家は、エラーが多いAIシステムが国防分野で急速に採用されている現実に「衝撃を受けている」と述べた。こうした領域でのAI活用は、最悪の場合に壊滅的な結果をもたらしかねないという。
開発の一時停止（ポーズ）についてはほぼ全員が懐疑的で、「巨大AI企業が資本主義の論理と強く結びついている以上、停止は長続きしない」との見方を共有した。民主主義と統治の問題も繰り返し議題に上り、複数の専門家がAIの現在の発展方向を「専制的」と形容した。コンピュータ科学の権威Yoshua Bengioは、「政治家への圧力を市民が行使すべきだ。それはあなた方メディアの仕事でもある」と語った。
一方、ある著名な技術者は米国の裁判所をAI安全の国際的な仲裁者と見なすことはほぼ不可能だと指摘した。AIラボとも対話する神学者は「社会の根幹をなす制度が失われる可能性が少しでもあるなら、今そこに集中すべきだ」と述べた。AIが意識・創造・人間関係の本質をどう変えるかという哲学的問いも浮き彫りになった。