AIを本当に減速させる方法とは？
मूल शीर्षक: Here’s How an AI Slowdown Could Actually Be Enforced
यह क्यों महत्वपूर्ण है
AI開発競争の最前線にいる企業トップ全員が減速を口にしたことで、規制・監査の具体的設計が産業全体の焦点になりつつある。
Anthropicの研究者が数年内に人類滅亡の可能性を警告。Dario Amodei、Sam Altman、Elon Musk、Demis HassabisらがAI減速を支持する中、Toronto大学のRaymond Douglasらは「効果的な制御手段はまだ解明されていない」と新報告書で指摘した。
AI開発を「減速」させる話が現実味を帯びてきた。だが、どう実行するかは誰も答えを持っていない。
Anthropicの元研究者が数年内に人類滅亡リスクを公に警告し、同社のAI安全研究所長もこれに同調した。Dario Amodei（Anthropic）、Sam Altman（OpenAI）、Elon Musk（SpaceXAI）、Demis Hassabis（Google DeepMind）の4人全員が何らかの形でAI減速・一時停止を支持する発言をしており、政治的・社会的圧力も高まっている。
特に懸念されているのが「再帰的自己改善（RSI）」のループだ。AIがAI自身を使ってより強力なモデルを開発し、人間の理解を超える速度で進化するというシナリオで、各社はすでにこれを意識し始めている。
Anthropicは今週、AI進歩の速度を追跡する新手法を発表した。現在、ClaudeがAnthropicのAI研究の26%を担っており、2026年初頭はゼロだったとのこと。また、同社の計算資源予算の6%がAI安全性向上に費やされているという。
Toronto大学のRaymond Douglasらが発表した報告書『Pacing the Frontier: A Research Agenda』は、AI減速が「未解決の研究課題」だと明言している。「私たちは選択肢が何であるか、それが何をもたらすかすら理解できていない」とDouglasは述べた。
有力な手段として挙がっているのが第三者評価機関によるモデル検査・監査だ。元UK AI Security InstituteのGeoffrey Irvingは「近い将来は検査と監査、あるいは相互合意だけでも機能する」と語る一方、「各社はRSIを恐れている」と指摘した。ただし、監査の実効性は評価機関の独立性と予算確保にかかっており、AI企業の外部からの専門知識と資金が不可欠だと専門家たちは口をそろえる。