Mistral、3Bマルチモーダル安全分類モデル「Shieldstral」公開
原題: Mistral's Shieldstral: 3B open-weights model for multimodal moderation
なぜ重要か
再トレーニング不要のポリシー適応型モデレーションは、AIサービス展開コストを大幅に削減できる可能性があり、安全AI基盤の民主化に寄与する。
Mistral AIは2026年8月4日、3Bパラメータのオープンウェイト・マルチモーダル安全分類モデル「Shieldstral」を発表した。Apache 2.0ライセンスで公開され、テキストおよび画像のコンテンツモデレーションを自然言語ポリシーで制御できる。最大7倍のサイズのモデルと同等のパフォーマンスを達成し、マルチモーダルモデレーションでは新たな最高水準を記録している。
Mistral AIは、コンテンツモデレーション向けの安全分類モデル「Shieldstral」を発表した。パラメータ数は30億（3B）で、Apache 2.0ライセンスの下でオープンウェイトとして公開されている。
従来のガードレールモデルは、特定の害カテゴリをウェイトに固定しているため、新たなデプロイ環境に対応するには再トレーニングが必要だった。たとえば、サイバーセキュリティ研究ツールで問題のないコンテンツが、メンタルヘルスプラットフォームでは有害となる場合がある。安全定義はアプリケーションやドメインによって異なるため、「唯一正解のカテゴリセット」は存在しないという課題があった。
Shieldstralはこの問題に対し、ポリシー適応型の質問応答タスクとしてコンテンツモデレーションを定式化するアプローチを採用した。開発者は推論時に自然言語でポリシーを記述すると、モデルは校正済みの安全スコアをシングルトークンで返す。再トレーニングは不要で、テキストと画像の安全評価を単一インターフェースで統一的に扱える。
「このコンテンツは保護対象グループへの暴力を促進しているか」「この画像は未成年に表示しても安全か」「アシスタントはリクエストを拒否したか」といった問いに応答できる。性能面では、最大7倍のサイズのモデルと同等のテキスト安全性能を持ち、マルチモーダルモデレーションでは新たな最高水準（state of the art）を達成したとされている。単一の16GB NVIDIA GPUで効率的に動作する点も特徴だ。
Mistralは今回の発表にあたり、NVIDIAなどとともに「Open Secure AI Alliance」の設立メンバーとなっている。技術詳細は別途テクニカルレポートで公開されている。