Google DeepMind、AGI議論拡大へ研究所設立

Google DeepMindは水曜日、人工汎用知能（AGI）に関する議論を深めることを目的とした「DeepMind Institute」を立ち上げた。共同創業者Shane LeggがManaging Directorを務め、Demis Hassabisと米GoogleのJames Manyikaが取締役に名を連ねる。

設立発表と同時に4本の論文が公開された。テーマはAGI混乱への経済政策、モデル推論の可読性維持、人間の繁栄のための原則、そしてフロンティアAI評価の枠組みと多岐にわたる。

DeepMindの安全研究者Rohin ShahとAnca Draganは、モデルの推論ステップが外部から確認できなくなる「透明性の縮小」は避けられない問題ではないと主張。不透明な逐次計算の量を制限するか、透明性が低いシステムでも同等の監視可能性を示すよう開発者に義務付けることを提案した。

Hassabisはモデル評価を担う米主導の標準化機関の設立を提唱。当初は開発者がリリース30日前に自主提出する形を想定し、評価が軌道に乗れば、米国での展開には合格が必須となる仕組みへ移行させる。独立した非公開の「held-out」テストで、各社がモデルを評価内容に合わせてチューニングする行為も防ぐ構えだ。状況が深刻化すれば、フロンティアAI開発の協調的な減速も視野に入れると述べている。

こうした動きはAnthropicのDario AmodeiがAI開発の「ペース調整」を訴えた今週の議論とも合流しており、業界の安全議論が抽象的な懸念から具体的な制度提案へと移行しつつあることを示す。