AIの減速、実施するには？研究者が方策を探る
Original : Here’s How an AI Slowdown Could Actually Be Enforced
Pourquoi c'est important
AI企業自身が減速を支持し始めた今、独立した監視体制の設計が急務となっている。
AI開発の減速を求める声が高まる中、Wiredは実効性ある管理手段を検討。AnthropicのClaudeはすでに同社AI研究の26%を担い、AI自身がAIを開発する「再帰的自己改善」ループへの懸念が深まっている。専門家は独立した評価機関の設置などを提案している。
AI研究者の間でリスク意識が高まっている。AnthropicのDario Amodei、OpenAIのSam Altman、SpaceXAIのElon Musk、Google DeepMindのDemis Hassabisといった業界トップが相次いで「AIの一時停止」を支持する発言をした。きっかけのひとつは、Anthropicの元研究者が「数年以内にAIが人類を滅ぼす可能性がある」と警告したことだ。
Anthropicは今週、AI進歩の速度と危険性を追跡する新手法を発表。Claudeがすでに同社AI研究の26%を担っていること、安全性研究にはコンピュート予算の6%が充てられていることが明らかになった。
トロント大学の研究者Raymond Douglasらの報告書「Pacing the Frontier」は、AI減速が「未解決の問題」であると指摘。「どんな選択肢があり、何が起きるかすら理解できていない」とDouglas氏は言う。元UK AI Security InstituteのGeoffrey Irvingは、第三者機関による厳格な監査・査察が当面の有効策になり得ると主張する。しかし効果的な管理には、AI企業の外部からの資金と専門知識が不可欠だと複数の専門家は強調する。