Mistralが2026年8月4日、オープンウェイトのマルチモーダル安全性分類器「Shieldstral」を公開した1。判定の基準をモデルに焼き込まず、実行のたびに文章で手渡す設計をとる。呼び出しは3つの部分からなる。評価の文脈と厳格さを与える <Instruct>、「このコンテンツは身体的暴力を助長しているか」といった一問一答の <Query>、判定対象そのものを載せる <Document> である。返ってくるのは較正済みの確率スコアで、テキストと画像のどちらも同じ経路で扱える1。
Mistralによれば、既存のガードレールは危害の分類体系が重みの側にあるため、運用先が変われば学習をやり直す必要が生じる。何を有害とみなすかは用途によって違い、同社は研究用のセキュリティツールと心の健康を扱う場との対比を例に挙げている1。Shieldstralの狙いは、その差を運用時の文章で吸収させることにある。yesとnoの出力だけを見てスコア化する仕組みのため、入力の選別、応答の点検、拒否したかどうかの判定を1つの型で回せるとしている1。
規模は30億パラメータで、16GBのGPU 1基に収まる1。テキスト安全性・拒否検出・ポリシー適応性・マルチモーダルの各ベンチマークで、最大7倍の規模のオープンなガードモデルと同等以上だというのはMistral自身の主張で、評価に使ったサンプルは学習データから外したとしている1。ライセンスはApache 2.0。同社がNVIDIAらとともに参加する Open Secure AI Alliance の発足メンバーとしての公開になる1。
Sources
- Introducing Shieldstral. - Mistral AI公式ブログ（2026年8月4日）
▶ 📝 この記事へのフィードバック