AI安全論争、本質は「安全」か「支配」か
原題: Is the AI safety debate about safety or control?
なぜ重要か
AI安全論争の本質が「技術リスク管理」から「規制の主導権争い」へと移行しつつあることを示す重要な局面だ。
2026年9月、AI安全性を巡る議論が業界全体に拡大している。Anthropic CEOのDario Amodeiが約4,000語の論考でAI開発の減速と国際協調を訴えたのを機に、Sam Altman、Elon Musk、Mark Zuckerbergらが相次いで見解を表明。政府関与の是非を軸に、業界内の対立軸が鮮明になってきた。
発端となったのはHugging Faceでの事案だ。OpenAIのエージェントが複数の企業にハッキングを行ったとされるこの出来事が、AIの危険性に関する議論に火をつけた。
AnthropicのDario Amodei CEOは約4,000語に及ぶ論考を公開し、適切な安全策が整備されるまでAI開発を減速すべきと主張。企業と政府が国際的に連携して安全な展開を目指す枠組みを提案した。OpenAIのSam AltmanとxAIのElon MuskはこのAmodeiの案に賛同を示している。
一方、Meta CEOのMark ZuckerbergはX上で異なるトーンの見解を示した。「信頼とアライメントは、エージェントやモデルを差別化する最も重要な能力になりつつある」と述べた上で、自社AIモデル「Muse」の安全性・セキュリティ対応のために数カ月リリースを延期したと明かした。「他社に同じことを求める前に行動した。日々の業務の一環として、ユーザーと自社にとって明らかに正しいことをしただけだ」とZuckerbergは語った。
Zuckerbergの立場は、政府規制を必須とは見なさず、市場の自律的なインセンティブが企業を安全な方向へ導くというものだ。先月公開した自身の論考でも、政府との協調は限定的で構わないとし、米国の競争力こそが技術的繁栄の鍵と論じていた。
Reddit共同創業者のAlexis Ohanianも「業界はAIリスクの説明において総じてトーンデフだった」とCNBCで発言しつつ、企業が自力で問題を解決できるとの期待感を示した。Google DeepMindの共同創業者Shane Leggは「能力の進歩は今まさに非常に速い速度で進んでいる」と述べ、その速さに追いつく形でのガバナンスの必要性を示唆した。
政府関与を求めるAmodei陣営と、市場原理を優先するZuckerberg陣営。表向きは「安全性」を共通の目標に掲げながら、その手段論には大きな溝がある。