Baseten、オープンモデル安全基準をHugging FaceとGoodfireと共同構築
Original : Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
Pourquoi c'est important
オープンモデルの安全標準化は、今後の規制議論と業界慣行を左右する可能性がある。
Baseten傘下のBase Labsは2026年9月17日、Hugging FaceおよびGoodfire AIと提携し、オープンウェイトAIモデル向けの安全評価・監視インフラの標準規格を構築すると発表。Hugging Faceには現在、安全制御を除去した「abliterated」モデルが6,000件以上公開されており、対策が急務となっている。
Baseten（2026年6月に評価額130億ドルで15億ドルのシリーズFを調達）の研究部門Base Labsが、オープンウェイトモデルの安全性強化に向けた新たな業界標準の構築を目指し、Hugging FaceとGoodfire AIとの提携を発表した。
背景にあるのは「abliteration（アブリテレーション）」と呼ばれる技術の台頭だ。これはモデルの安全装置を事後的に除去する手法で、Hugging Face上には既に6,000件超のabl化済みモデルが存在する。
Base Labsは、安全機能を後付けするのではなく、トレーニングと展開のプロセスに組み込む形で標準化を図る方針。Baseten はX上で「オープン性はAI安全における優位性だ。モデルの挙動への可視性が高まり、安全研究を実行可能で透明な制御に転換する手段も増える」と表明した。
モデルの内部解釈を専門とするGoodfire AIは今年、B Capital主導のシリーズBで1億5,000万ドルを調達済み。同社は「安全性はオープンモデルに組み込まれ、サービス提供者によって担保されなければならない」とコメントした。技術的な実装の詳細はまだ開示されていない。Baseten は広く開発者コミュニティにもフレームワークへの貢献を呼びかけている。