Altman「AIへの権限移譲は最悪」と警告

原題: Sam Altman warns against a future where AI, not humans, calls the shots

なぜ重要か

AI安全性の議論が「誰が制御するか」という権力構造の問題に踏み込み始めた点は、規制や業界標準の形成に直結する。

OpenAIのCEO Sam AltmanとGreg Brockman共同創業者は2026年11月18日、ニューヨーク・タイムズのDealBook Summitに登壇し、AIが意思決定権を持つ「段階的な権限移譲」論に強く反対した。Silicon Valleyで広まりつつあるこの考えを「terrible idea」と明言し、人間が主導権を握り続けることの重要性を両者が共有していると述べた。

AltmanとBrockmanは同イベントで、AI技術の進化に伴いSilicon Valleyで議論が活発化している「AIへの段階的権限移譲」論に正面から反論した。この理論は「再帰的自己改善(Recursive Self-Improvement / RSI)」の概念を背景に持ち、AIモデルがより高度な次世代AIを生成し続けることで、最終的には人間が制御できない超知性(superintelligence)が誕生するという考え方だ。

Altmanは「これと戦わなければならないこと自体が馬鹿げているほどだが、AIへの意図的・偶発的な権限移譲を防ぐことが極めて重要だ」と述べた。彼とBrockmanの間には、その実現方法や過程で直面する課題の見立てに細かな相違はあるものの、「人間が未来の主導権を持ち続けるべき」という根本的な考えは完全に一致していると強調した。

一方、Brockmanはモデルの高性能化に伴い、alignment(整合性)・safety(安全性)・security(セキュリティ)への責任が増すと指摘。現在、研究者はAIが問題を解く過程で思考を文章化する「chain of thought(思考の連鎖)」を監視しているが、より高性能なモデルはforward pathの中だけで多くの処理を完結できるため、この手法だけでは不十分になりつつあると説明した。「新たな監視技術が必要になる」とBrockmanは述べており、capabilities(能力)が一定水準に達した段階での対応策についても再考が必要だと示唆した。

出典

techcrunch.com — 元記事を読む →