高リスクAI研究を公開で行うTrillium Labs設立
원제: These AI Experts Want to Do High-Stakes Research Out in the Open
왜 중요한가
フロンティアAIの安全研究が少数企業に独占される中、非営利・オープン路線の台頭は業界の透明性議論を加速させる。
元Hugging FaceのNathan LambertとTom Zickが2026年10月、非営利組織Trillium Labsを設立。再帰的自己改善（RSI）やエージェントなど高リスク領域のAI研究を透明性高く公開し、外部研究者が実験を検証・再現できるよう実験詳細を論文として公表する方針を打ち出した。
OpenAIやAnthropicに代表されるフロンティアAIラボは、強力なモデルへのアクセスをAPIやアプリ経由に限定し、学習データや訓練手法の詳細を非公開にしている。Lambertはこの「閉鎖的な開発軌道」が科学的精査を妨げるとし、「過去数千年にわたり人類は科学的手法をリスク軽減のツールとして使ってきた。現在の閉鎖的なフロンティアAI開発はその歩みを後退させている」とWIREDに語った。
Trillium Labsが注目するのは特に再帰的自己改善（RSI）とAIエージェント分野。実験の詳細を公開することで、外部専門家がモデルの構築・調整プロセスを検証できる体制を目指す。
一方、中国のXiaomiが主要モデルの学習ランをリアルタイム公開し、StanfordもAIモデル「Marin」の事前学習を公開で進めるなど、オープン路線の動きは国際的に広がっている。Lambertは以前Ai2でオープンAI研究に従事し、Hugging Faceにも在籍。米国のオープンモデル推進イニシアチブ「American Truly Open Models」も創設した。Zickはハーバード大学と金融大手Charles Schwabで責任あるAI政策に携わった経験を持つ。2人はCOVID-19パンデミック中にUC Berkeleyの大学院生としてZoom越しに出会い、産業界と学術界のAI研究の断絶を問題視したことが本組織設立のきっかけとなった。