Base Labs、Hugging FaceとGoodfireとAI安全基盤を構築
Judul asli: Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
Mengapa Ini Penting
abliteration手法の急拡大により、オープンモデルの安全基準整備が業界全体の急務となっている。
Baseten傘下のBase Labsは2026年9月17日、Hugging FaceおよびGoodfire AIと提携し、オープンウェイトモデル向けの安全評価・監視インフラ標準を発表した。
Baseten傘下の研究部門Base Labsは、オープンウェイトAIモデルの安全性確保を目的としたインフラ標準を発表した。Hugging FaceとGoodfire AIが共同パートナーとして参加する。
発表の背景にあるのが「abliteration（アブリタレーション）」と呼ばれる技術の拡大だ。これはモデルの安全ガードを除去する手法で、Hugging Faceが公開するモデルのうち現時点で6,000件以上が同手法によって改変済みという。
Base Labsはオープンモデルの学習・監視手法を開発・公開する方針で、安全対策を「後付け」するのではなく、学習・デプロイの段階から組み込む「標準」として位置づけている。同社はXへの投稿で「オープン性はAI安全にとって優位性だ」と主張した。
Goodfire AIはモデルの解釈可能性（interpretability）を専門とし、モデルが意思決定する仕組みを可視化する技術を持つ。技術的な詳細は未開示だが、Goodfireは「安全性はオープンモデルに組み込まれ、提供者によって担保されなければならない」とコメントした。
Baseten自体は2026年6月に評価額130億ドルでシリーズF（15億ドル）を調達済み。Goodfireも今年B Capitalが主導したシリーズBで1億5,000万ドルを調達している。Basetenは今後、開発者コミュニティに向けてフレームワークへの貢献を広く募る方針だ。