［開発者向け］Mistralの安全性分類器「Shieldstral」——ポリシーを問いとして解く3Bモデル

2026-08-05

はじめに

　Mistralは2026年8月4日、コンテンツの安全性を判定する3Bパラメータのオープンウェイトモデル「Shieldstral」を公開しました。プロンプトとして与えたポリシーに応じて安全性スコアを返す設計が特徴で、本稿ではその仕組みと性能を解説します。

参考記事

タイトル: Introducing Shieldstral
著者: Mistral AI
発行元: Mistral AI公式ブログ
発行日: 2026年08月04日
URL: https://mistral.ai/news/shieldstral/

要点

Shieldstralは、コンテンツの安全性判定を「はい/いいえ」で答える質問応答タスクとして扱う3Bパラメータのオープンウェイトモデルである
自然言語で書かれたポリシーを推論時にそのまま受け取れるため、再学習なしにテキストと画像の両方の安全性評価に対応できる
4つの評価軸(テキスト安全性、拒否検出、ポリシー適応性、マルチモーダル安全性)において、最大7倍の規模を持つ既存のガードレールモデルと同等以上の性能を記録した
Apache 2.0ライセンスの下でHugging Face上に公開されており、16GBのGPU1枚で動作する
NVIDIAなどが参加する「Open Secure AI Alliance」の発足メンバーとしての発表でもある

詳細解説

Shieldstralの仕組み——安全性判定を「問い」として設計する

　従来のガードレールモデルの多くは、あらかじめ決められた有害カテゴリの分類をモデルの重みに組み込んでいます。そのため、新しい配置先やポリシーに対応させるには再学習が必要になり、アプリケーションやドメインごとに安全性の定義が異なる以上、唯一絶対の分類基準を設定すること自体が難しいという課題がありました。Shieldstralは、Instruct(評価の文脈・厳格さ・不安全の定義)、Query(「暴力を助長する内容か」といった単一のはい/いいえの質問)、Document(判定対象のプロンプトや応答、画像)という3つの要素からなるプロンプトを受け取り、モデルが出力する「はい」「いいえ」のロジットのみを読み出してソフトマックスで正規化し、連続値の安全性スコアとして返す設計になっています。

　MistralはNVIDIAとの提携でもオープンなフロンティアモデルの共同開発を進めてきましたが、今回のShieldstralも同じくNVIDIAなどが参加する「Open Secure AI Alliance」の発足メンバーとしての発表であり、オープンな安全性基盤づくりの流れの一環と考えられます。

性能とデータづくりの工夫

　Mistralによれば、Shieldstralはテキスト安全性・拒否検出・ポリシー適応性・マルチモーダル安全性の4つの評価軸すべてで、最大7倍の規模を持つ既存のオープンガードレールモデルと同等以上の性能を記録したとしています。この結果を支えているのは主にデータ設計の工夫だとされ、公開されている安全性データセットの分類体系やラベル形式の違いを吸収するために、すべてのデータを同一のInstruct-Query-Document形式に変換し、ソースごとに厳格さの基準を調整したと説明されています。さらに、意図的に似通った複数のポリシーを用意し、あるポリシーだけに違反するようテキストを書き換えた対照的なペアを学習に使うことで、未知のポリシーに対しても違反箇所を見分ける能力を身につけさせたとのことです。画像データについては、一般的な画像データセットを安全な事例として補い、視覚言語モデルによるフィルタリングでラベル誤りを減らす工夫も行われています。

　このように複数の観点からデータの質を高めた上で、公開データで調整したチェックポイントと、生成データでポリシー識別能力を加えたチェックポイント、ベースとなる指示モデルの3つをLoRAで微調整し、SLERPという手法でマージすることで最終的なモデルを構築したと説明されています。この学習・評価基盤には、Mistral独自のプラットフォーム「Forge」が使われたとのことです。

利用方法と位置づけ

　Shieldstralの重みはApache 2.0ライセンスでHugging Face上に公開されており、16GBのGPU1枚で動作する軽量さも特徴です。技術詳細はarXivの技術レポートにまとめられています。プロンプト内でポリシーを自然文として指定できるため、プロダクトやドメインごとに異なる安全基準を、モデルを再学習せずに切り替えられる点は、実運用の観点でも扱いやすいと考えられます。ただし、公式発表の時点ではベンチマーク上の比較が中心であり、実際の運用データにおける挙動については、導入する側での検証が引き続き必要だと思います。

まとめ

　Shieldstralは、安全性判定を固定的な分類ではなく「ポリシーへの問い」として扱うことで、小さなモデルでも高い柔軟性と性能を両立できる事例だと言えます。今後の多言語対応や頑健性向上にも注目したいところです。オープンウェイトモデルの安全性設計について詳しく知りたい方は、過去記事でも整理していますので、あわせてご覧いただければと思います。