Google DeepMindがAGI議論拡大のための研究所を設立
原題: Google DeepMind launches institute to widen the AGI debate
なぜ重要か
抽象的な懸念声明から具体的な評価基準・開示義務・開発速度調整の提案へと、業界のAI安全議論が実務レベルに移行しつつある転換点を示す。
Google DeepMindは2026年9月17日、AGI（汎用人工知能）を巡る議論を深める「DeepMind Institute」を設立した。共同創業者Shane Legg、GoogleのJames Manyika、DeepMind議長Demis Hassabisが理事を務める。初回として4本の論文を公開し、AGI時代の経済政策やモデル評価の枠組みなどを提示した。
Google DeepMindは、AGIを巡る多様な視点を社内外に広げることを目的とした「DeepMind Institute」を設立した。Shane Leggが編集長を兼務し、Google・Google DeepMind・外部研究コミュニティの意見が必ずしも一致しないことを前提に、率直な議論の場を提供するとしている。
初回公開の4本の論文はテーマが幅広い。DeepMindの安全性研究者Rohin ShahとAnca Draganによる論文は、AIモデルが推論プロセスを外から確認できなくなる「透明性の窓」の縮小は不可避ではないと主張する。新アーキテクチャにより強力なモデルの監視が困難になる中、開発者と規制当局は安全性のトレードオフに正面から向き合うべきだと訴える。具体的には、読み取り可能な推論トレースを生成せずにモデルが実行できる連続計算量（「不透明な逐次深度」）を制限したり、透明性の低いシステムでも十分な監視可能性を保てることを開発者に証明させる仕組みが提案されている。
Hassabisの論文では、米国主導のフロンティアAI評価機関の設立を提唱している。開発者はリリース30日前までにモデルを任意提出し、評価が機能すると証明された段階で、米国内でのデプロイに合格が義務付けられる仕組みだ。評価機関は当初AI企業と協議しながら基準を設計するが、最終的には企業側が対策を講じられないよう非公開の「ホールドアウトテスト」を独自に開発するという。Hassabisは、状況の深刻度に応じてフロンティア開発者間の協調的な開発速度の抑制も選択肢に入れると述べた。
この動きは、Anthropic CEOのDario AmodeiがフロンティアAI開発の「ペース調整」を呼びかけ、業界リーダーがその要素を支持し始めたタイミングと重なる。