Base Labs、オープンウェイトAI安全性パートナーシップ発足
原題: Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
なぜ重要か
abliterationによる安全機能の無効化が急増する中、主要プレーヤーが業界標準の策定に乗り出したことで、オープンウェイトモデルの安全性議論が新局面を迎える。
Basetenの研究部門Base Labsは2026年9月17日、オープンウェイトモデルの安全評価・監視インフラ構築を目的として、Hugging FaceおよびGoodfire AIとのパートナーシップを発表した。背景には「abliteration」と呼ばれる手法による安全機能の無効化問題があり、Hugging Face上には現在6,000件超のabliteratedモデルが公開されている状況がある。
Basetenが今年初めに設立した研究部門Base Labsは、オープンウェイトAIモデルのための安全性インフラ標準を構築するパートナーシップを発表した。参加企業はオープンソースAIモデルのホスティングプラットフォームHugging Faceと、モデルの解釈可能性を専門とするGoodfire AIの2社だ。
この取り組みが急務となっている背景には、「abliteration」と呼ばれる手法の拡散がある。これはモデルの安全ガードを事後的に除去するもので、Hugging Face上にはすでに6,000件以上のabliteratedモデルが存在する。
Base Labsは、オープンモデルの訓練・監視に関する手法を開発・公開し、それを安全性の「標準」として位置づける方針だ。重要なのは、安全機能を後付けするのではなく、モデルの訓練・デプロイの過程に組み込むアプローチを取る点だという。Basetenは公式Xアカウントで「オープン性はAI安全性における優位性だと信じる。オープン性はモデルの挙動に対する可視性を高め、安全研究を実行可能で透明なコントロールへと転換する手段を広げる」とコメントした。
Goodfireは「安全性はオープンモデルに組み込まれ、それを提供する者によって保証されなければならない」と返答。同社はモデルの「ブラックボックス」を解析し、意思決定プロセスを説明する技術を持つことから、「組み込み型安全機能」の実装を担う可能性が高い。
なお、パートナーシップの技術的な詳細はまだ開示されていない。
資金面では、Basetenが2026年6月にシリーズFで15億ドルを調達し、評価額は130億ドルに達した。Goodfire AIも今年、B Capital主導のシリーズBで1億5,000万ドルを調達している。両社ともに潤沢な資本を持つ。Base Labsはこのフレームワークへの貢献を広く開発者コミュニティに呼びかけており、今後の展開が注目される。