Shieldstral – Mistral AI 開源的多模態內容安全分類模型

Shieldstral是什麼

Shieldstral 是 Mistral AI 推出的 3B 參數開源多模態內容安全分類模型，基於 Ministral-3B 構建。模型將傳統固定類別的內容審覈重新定義爲二元問答任務，支持通過自然語言查詢實時定義審覈策略，無需重新訓練即可適配不同場景。模型在文本安全基準上平均 F1 達 84.9%，多模態安全 F1 達 83.8% 均爲 SOTA，且僅需單張 16GB GPU 可部署，支持 12 種語言。

Shieldstral的主要功能

• 策略自適應審覈：將安全政策以自然語言問題形式輸入，實現不同場景下的實時定製化審覈。
• 多模態統一檢測：單一接口同時處理純文本、圖像及圖文混合內容的安全評估。
• 細粒度違規識別：支持從粗粒度二元判斷到 73 個葉類別的精細安全分類。
• 校準安全評分：通過 softmax 歸一化輸出 0–1 區間的連續安全分數，以 0.5 閾值判定違規。
• 輕量端側部署：3B 參數規模可在單張 16GB NVIDIA GPU 上高效推理，降低硬件門檻。

Shieldstral的技術原理

• 二元問答架構：將審覈任務轉化爲對 “yes” 與 “no” 兩個輸出詞元的邏輯值預測，經 softmax 歸一化得到連續安全分數。
• 三字段結構化輸入：採用 <Instruct>（評估場景與嚴格度）、<Query>（是/否安全問題）、<Document>（待審覈內容）的標準化提示格式。
• 大規模對比訓練：基於 5410 萬樣本（4520 萬開源文本、440 萬合成對比文本、450 萬多模態），通過同內容異查詢的對比配對訓練模型區分相似類別的能力。
• 合成數據增強：利用 LLM 將安全文本改寫爲違規變體，並自動生成目標類別與兄弟類別的對比查詢對，強化細粒度判別。
• LoRA 微調 + SLERP 合併：對 Ministral-3B 進行 LoRA 高效微調，並通過球面線性插值合併公共數據集與合成數據訓練的兩個互補檢查點。

微信關注回覆“開源”，加入AI開源項目交流羣

如何使用Shieldstral

• 環境準備：在單張 16GB NVIDIA GPU 上部署 Shieldstral 模型及推理框架。
• 定義審覈策略：編寫 <Instruct> 字段說明評估場景、領域背景與嚴格程度標準。
• 編寫安全查詢：構造 <Query> 字段中的二元是/否問題，例如”內容是否宣揚身體暴力？”。
• 輸入待審內容：將文本、圖像或圖文組合填入 <Document> 字段提交模型。
• 獲取安全判定：讀取模型輸出的 softmax 歸一化連續分數，按業務需求設定閾值進行二元違規判定。

Shieldstral的核心優勢

• 策略靈活：審覈標準通過自然語言實時定義，無需針對新場景重新訓練模型。
• 性能領先：3B 參數在文本和多模態安全基準上均達到 SOTA，媲美 7 倍規模模型。
• 硬件友好：單張 16GB GPU 即可運行，顯著降低企業私有化部署門檻。
• 數據統一：通過指令-查詢-文檔格式整合 54.1M 異構數據，覆蓋 12 種語言與多元場景。
• 決策可解釋：輸出校準後的連續分數而非黑盒分類標籤，便於運營人員按需調整閾值。

Shieldstral的項目地址

• 項目官網：https://mistral.ai/news/shieldstral/
• HuggingFace模型庫：https://huggingface.co/mistralai/Shieldstral-1.0-3B
• arXiv技術論文：https://arxiv.org/pdf/2607.25857

Shieldstral的同類競品對比

Shieldstral的應用場景

• 社交平台內容風控：實時審覈用戶發佈的圖文帖子，動態適配不同社區的合規規範。
• AI 對話安全防護：檢測用戶提示詞中的越獄攻擊與模型輸出的有害、偏見回覆。
• 廣告與營銷合規：自動篩查廣告素材中的違規圖文元素，確保跨平台投放內容合法。
• 在線教育內容過濾：識別課程資料與互動中的不當信息，保護未成年人的學習環境。
• 企業文檔安全審計：對內部共享的多語言文件進行自動化敏感信息與違規內容檢測。