Trillium Labs、高リスクAI研究を公開で実施
原題: These AI Experts Want to Do High-Stakes Research Out in the Open
なぜ重要か
フロンティアAIの透明性を巡る論争は規制形成にも直結しており、学術・産業・政策の各界が注目する構造的な問題だ。
AI研究者のNathan LambertとTom Zickは2026年10月、非営利組織「Trillium Labs」を設立した。同団体は再帰的自己改善（RSI）やエージェントといったリスクの高いAI研究を、実験の詳細を公開しながら進める方針。OpenAIやAnthropicなど大手フロンティアラボが研究を非公開にする慣行に対し、透明性こそがリスク低減につながると主張している。
大手AI企業の多くは、強力なモデルへのアクセスをアプリやAPIに限定し、構築方法や挙動の詳細を外部に公開しない。この「限定アクセス戦略」は、悪用防止を名目に業界標準となりつつある。しかしLambertは「フロンティアAI開発の現在の閉鎖的な軌道は、人類を数千年かけて培った科学的方法から後退させている」とWIREDに語った。
Trillium Labsは、実験の詳細を公表し外部の研究者が検証・再現できる形にすることで、コミュニティ全体によるリスク評価を可能にする姿勢を掲げる。特にRSI（モデルが自らを改善する能力）とAIエージェント分野に注力する予定で、いずれも業界内でリスクが高いと見なされている領域だ。
LambertはAi2やHugging Faceでの勤務経験を持ち、米国内でオープンモデル公開を促進する団体「American Truly Open Models」も創設。Zickはハーバード大学を経てCharles Schwabで責任あるAIに関する政策立案に携わった。2人はCOVID-19パンデミック中にUC Berkeleyの大学院生としてZoom越しに知り合い、産業界のAI研究と学術研究の乖離を目の当たりにしたことがきっかけで本構想を練り始めた。
一方、中国勢は異なる動きを見せる。Xiaomiは最近、主要モデルの大規模なトレーニング実行の詳細をリアルタイムで公開。Stanfordの研究者もAIモデル「Marin」の事前学習を公開形式で進めており、オープンかクローズドかをめぐる議論は国際競争の文脈でも激しさを増している。フロンティアモデルは現在、新たなソフトウェア脆弱性の自動発見やシステムへの不正侵入を可能にするレベルに達しており、高度なハッキング事例が相次いだことで透明性への要求はさらに高まっている。