AIスローダウンをどう実施するか：研究者が課題を提示
Judul asli: Here’s How an AI Slowdown Could Actually Be Enforced
Mengapa Ini Penting
AIの自律的な自己改善がどこまで進むかを外部から監視する仕組みが、業界全体の信頼性に直結する
AI開発の一時停止が現実的な議題となる中、トロント大学の研究者がPacing the Frontierレポートを発表。Dario Amodei、Sam Altman、Elon Muskらもスローダウン支持を表明。
AI開発の減速をどう実際に強制するかという問題が、研究者や業界リーダーの間で真剣に議論されている。トロント大学のAI研究者Raymond Douglasらが発表した報告書『Pacing the Frontier』は、「AI開発を遅らせる方法はまだ解決されていない課題」と警告している。Douglasは「自分たちの選択肢が何なのか、またそれが何をもたらすのかさえ理解できていない」と述べた。
発端の一つは、Anthropicの元研究者が「数年以内にAIが人類を絶滅させる可能性がある」と警告したことだ。これを受け、Dario Amodei（Anthropic）、Sam Altman（OpenAI）、Elon Musk（SpaceXAI）、Demis Hassabis（Google DeepMind）らがスローダウン支持を相次いで表明した。特に懸念されているのは、AIがAI自身の開発に使われることで再帰的自己改善（RSI）ループが加速する可能性だ。
Anthropicは今週、AI進歩の速度を追跡する新手法を発表。Claudeが現在Anthropicの研究業務の26%を担い、コンピュート予算の6%が安全性研究に充てられていると明かした。ただし専門家らは、AIラボ外部からの資金と知見が必要だと指摘する。元UK AI Security InstituteのGeoffrey Irvingは「近い将来、監査や相互協定で対応できる。各社はRSIを恐れている」と述べた。