Clef – Cloudflare 開源的決策模型家族

Clef是什麼

Clef 是 Cloudflare 開源的決策模型家族，爲上下文定調，再決定後續動作。與生成開放文本的聊天模型不同，Clef 是在請求裏臨時定義問題、爲每個選項打出概率，讓代碼據此完成路由或攔截，無需爲新增類別反覆重訓。Clef 家族中，27B 的 Clef 主打精度，9B 的 Clef-flash 快至 38.8 毫秒中位延遲，適合嵌進 Agent 的熱路徑。

Clef的主要功能

• 概率化決策：輸入 state 與類型化問題，輸出每個選項的概率，代碼可直接據此路由、攔截或升級人工。
• 三種問題類型：支持 noul、choice、score，單次請求最多 64 問。
• 視覺分類：內置 vision encoder，可嵌入最多 4 張圖與文本一起打分。
• 64K 上下文：可容納長日誌、工單、JSON 狀態等更完整的輸入。
• Jev API 兼容：請求 schema 與 Jev 對齊，遷移時基本只改端點和模型名。
• 非自迴歸推理：prefill 一次後對合法選項並行打分，不逐 token 生成文本，延遲遠低於通用 LLM。
• 邊緣託管低延遲：依託 Workers AI 全球 GPU 網絡，Clef 中位 209ms、Clef-flash 僅 38.8ms，可進熱路徑。

Clef的技術原理

• 非自迴歸決策架構：Clef 先對輸入做一次 prefill-only 前向計算，再對請求中定義的合法 schema 選項並行打分，直接從內部表示推導結構化結果。
• 兩階段注意力路由：每個合法選項先從 prompt 中提取與自身相關的上下文，再讓各字段參數互相 cross-attend、回連原始 payload 聯合建模，配合 lexical prior 保持跨選項的語義一致性，最終把證據彙總爲 schema 約束下的分數。
• 凍結底座 + 輕量適配：底座爲 Qwen3.8-27B和 Qwen3.5-9B，凍結主幹，僅聯合優化 routing head 與 rank-256 LoRA 適配器，用很小的可訓練參數量獲得決策能力，降低了訓練和部署成本。
• 校準導向的訓練目標：post-training 採用 label-smoothed cross-entropy 保證輸出落在合法 schema 內，疊加 Brier loss 專門校準概率，使輸出的概率值本身可信。
• RLCD 強化學習：自研 Reinforcement Learning for Calibrated Decisions 作爲二級優化目標，對相鄰序數選項給部分分、對精確命中給全分、加 reference penalty 防止分佈漂移，提升準確率與泛化。
• 數據策略：訓練數據爲內部合成數據集，通過置換字段順序、prompt 與 schema 結構來增強泛化，使模型對問題寫法不敏感、能適應請求時臨時定義的新類別。

微信關注回覆“開源”，加入AI開源項目交流羣

如何使用Clef

• 確認賬號與權限：註冊 Cloudflare 賬號，拿到 Account ID 和 API Token，開通 Workers AI。
• 選定模型：按需求選 @cf/cloudflare/clef或 @cf/cloudflare/clef-flash。
• 構造請求體：寫好 model、state（文本/JSON 狀態）和 questions（1–64 個 noul/choice/score 類型問題，criteria 邊界寫清）。
• 發起調用：用 REST POST 到 /accounts/{id}/ai/run/@cf/cloudflare/clef，或在 Worker 裏通過 env.AI.run() 綁定調用。
• 解析概率結果：從 response.answers 讀取各問題的選項概率/加權分，用”最高選項 + 概率閾值”做路由或攔截。
• 接入圖片（可選）：需要視覺判定時，將 PNG/JPEG/WebP 字節嵌入請求，不要傳遠程 URL。
• 上線前壓測：用自己的 state 長度和問題數實測延遲與準確率，再決定全量切換或按風險分流 flash/clef。
• 進階微調（可選）：領域標籤特殊時，經 AI Gateway 沉澱數據，走 FDE 團隊的 RL 微調服務定製模型。

Clef的核心優勢

• 速度快：非自迴歸並行打分 + 邊緣 GPU 託管，Clef 中位延遲 209ms、Clef-flash 僅 38.8ms，比 Jev 快 2.5×–13×，能進熱路徑。
• 精度高：在 Jev Decision Index 上排名第一，官方 10 項決策基準中 7 項最高分，Typesafe 工作流評測 4 項贏 3 項。
• 免重訓加類別：類別在請求裏臨時定義，新增標籤不用像傳統分類器那樣重訓模型。
• 概率可校準：Brier loss + RLCD 訓練讓輸出概率本身可信，可直接設閾值做自動化決策。
• 原生多模態：內置 vision encoder 可分類圖像，而 Jev 目前只做文本。
• 上下文翻倍：64K 上下文（Jev 爲 32K），能塞進更長日誌和狀態。
• 遷移零成本：Jev API 全兼容，換端點和模型名即可平滑替換。

Clef的項目地址

• 項目官網：https://blog.cloudflare.com/clef-decision-models/
• HuggingFace模型庫：
  • https://huggingface.co/Cloudflare/clef
  • https://huggingface.co/Cloudflare/clef-flash

Clef的同類競品對比

Clef的應用場景

• 客服工單分診：輸入工單內容與截圖，一次請求同時判定是否緊急、該路由到哪個團隊、嚴重度評分，低置信度自動升級人工。
• 威脅情報與反釣魚：配合 Browser Run 抓取渲染網頁，對域名/頁面做多標籤分類，官方實測全流程僅 2.2 秒。
• Bot 流量判定：在網關熱路徑用 Clef-flash 快速判斷爬蟲是善意還是惡意，毫秒級攔截或放行。
• Agent 工具調用前置審查：Agent 執行高風險操作前先問 Clef”該不該做、用哪個工具”，按概率閾值決定是否執行或請求確認。