VeriLoop E2 – 清華大學開源的 27B 後訓練模型

VeriLoop E2是什麼

VeriLoop E2 是清華大學深圳國際研究生院機器人實驗室開源的 27B 後訓練模型，基於 Qwen3.8-27B，面向代碼、數學與物理推理，Apache-2.0、原生 262K 上下文。VeriLoop E2 核心 VGR 機制把“模型提案”和“外部驗證/持久化”分離，候選狀態只有在保護證據座標無退化且至少一項嚴格改進時才提交，否則回滾，模型不能自證成功。

VeriLoop E2的主要功能

• 開源後訓練模型：基於 Qwen3.8-27B 的 27B 模型，Apache-2.0 發佈權重與分詞器，原生上下文 262,144 tokens，可用 vLLM 0.17.0 以 OpenAI 兼容方式服務。
• 代碼與智能體能力：覆蓋倉庫級軟件修復、終端/工具執行等任務，發佈分數包括 SWE-bench Pro 76.2%、Terminal-Bench 2.1 88.8%、DeepSWE v1.1 64.6% 等。
• 數學與科學推理：面向競賽數學與高難度科學問答，報告 AIME 2026 98.3%、ArXivMath 100%、GPQA Diamond 93.9%、Apex 2025 89.6%。
• 證據閉合科學演示：發佈黎曼 ζ 零點比例 67.350003708785593% 的嚴格有限維證書，以及漸近引力子斷層成像 T1–T9 框架與 6/6 通過的可執行證書套件。
• 可審計工程契約：公開 14 條 Golden Rules，約束長週期任務保持有界、可測試、可追溯，明確禁止僞造成功、資源預算後置或覆蓋本地約定。
• 明確邊界：生產版 VeriLoop Harness、私有編排與訓練數據未包含；科學工件與模型許可證分開，結果不可外推爲黎曼猜想或黑洞信息悖論已被解決。

VeriLoop E2的技術原理

• VGR 的總體機制：VeriLoop-Governed Recurrence 把一次任務求解建模爲圍繞已保留狀態的候選狀態轉移：模型作爲學習到的 proposer 生成候選潛變量位移或候選工件，固定 decoder 將其物化爲輸出，外部 verifier 在固定合同下返回受保護證據秩；只有當候選秩對現任秩滿足弱支配且至少一個座標嚴格改進時才原子提交，否則完整保留現任 bundle，僅把被拒絕的位移寫入探索記憶。
• 受保護偏序與原子提交：驗證器合同定義有序義務列表 O=(o1​,…,om​) 與秩向量 r∈N0m​ ，座標越小表示剩餘違例越少；提交謂詞 χt​=1{rt′​≺P​rt​} 要求逐座標不惡化且至少一座標嚴格改善，因此聚合分數變好不能掩蓋單點回歸，不可比或迴歸候選一律拒絕。提交單位是綁定工件、潛狀態、驗證結果與摘要的 CertifiedBundle，拒絕時整個 bundle 原樣保留，保證可回滾、可重放，由整數勢下降推出嚴格提交次數有限。
• 證據反饋與拒絕探索：每次嘗試後，證據編譯器 $\Gamma$ 在替換現任驗證對象之前，從“現任結果—候選結果—提交決策”計算有界模型可見特徵，例如秩和壓縮、改善/惡化/持平比例、提交與零秩指示等；只用於條件化下一步提案，不具備提交權。被拒絕的位移進入探索記憶 Et​ ，可影響後續搜索但不能覆蓋已保護狀態，使失敗軌跡“有信息但不持久”。
• 後訓練監督接口：由於 VGR 標籤定義在任務級狀態轉移上，E2 用 1,841,831 條結構化記錄做後訓練：驗證過的嚴格進展動作提供糾正監督，不可提交候選提供對比負例，零秩工件提供最終生成目標；損失由成對偏好 logistic 項、動作 NLL 與生成 NLL 加權組成，採用 QLoRA-4/bfloat16、梯度檢查點、按能力面路由與 protected-core replay。報告強調這讓學習改善“提案分佈”。

微信關注回覆“開源”，加入AI開源項目交流羣

如何使用VeriLoop E2

• 獲取模型：從 Hugging Face 拉取 tsinghua-sigs-robot-lab/VeriLoop-E2，保留倉庫自帶 tokenizer、chat template 與配置。
• 準備環境：安裝 Python 3.12.x、PyTorch 2.10.0 + CUDA 12.9、Transformers 4.57.6、Triton 3.6.0，執行 python -m pip install "vllm==0.17.0"。
• 啓動服務：運行 VLLM_USE_MODELSCOPE=true vllm serve <MODEL_PATH_OR_HF_ID> --served-model-name veriloop-e2 --dtype bfloat16 --model-impl vllm --language-model-only --max-model-len 131072 --max-num-seqs 16 --gpu-memory-utilization 0.92 --generation-config vllm --host 127.0.0.1 --port 8001。
• 先做冒煙測試：向 http://127.0.0.1:8001/v1/chat/completions 發送 temperature: 0 的小請求，確認返回如 8001_OK 再接入正式流量。
• 按 OpenAI 協議調用：使用 model="veriloop-e2" 的 /v1/chat/completions，Python 側用 OpenAI(base_url="http://127.0.0.1:8001/v1", api_key="EMPTY") 創建客戶端。
• 把模板當作協議一部分：不要替換角色分隔符、工具調用語法、停止語義或推理歷史格式，即使權重不變可能改變工具使用與系統行爲。
• 規劃長上下文資源：發佈 tokenizer 原生上限爲 262,144 tokens，但公開驗證服務長度爲 131,072 tokens，更長窗口需自行評估顯存與 KV cache。
• 區分模型與 Harness 權限：E2 只負責提案、抽象、診斷和修復；證據接納、確定性檢查、提交/回滾、終止和持久化應由你自己的 verifier/Harness 實現。

VeriLoop E2的核心優勢

• 生成與驗證解耦：模型只負責提案、診斷和修復，外部 Harness 獨佔接納、回滾、終止與持久化權，避免模型自證成功。
• 防迴歸的提交規則：VGR 僅在“保護證據座標無退化且至少一項嚴格改進”時提交，聚合變好不能掩蓋單點回退。
• 原子回滾與安全失敗：拒絕候選保留完整 CertifiedBundle，失敗軌跡可複用但不覆蓋已驗證狀態。
• 監督信號來自真實驗證：後訓練用嚴格進展、不可提交負例和零秩終稿構造偏好/NLL目標。
• 較強綜合能力：27B 規模下覆蓋代碼智能體、終端執行、數學與科學推理，報告 SWE-bench Pro 76.2%、AIME 2026 98.3%、GPQA Diamond 93.9% 等成績。
• 長上下文與開放服務：原生 262,144 tokens 上下文、Apache-2.0 權重，提供經 vLLM 0.17.0 驗證的 OpenAI 兼容服務路徑。
• 可審計而非只報分數：評估證據包按任務綁定身份、輸出、原生執行/評估記錄、通過與失敗及完整性元數據。

VeriLoop E2的項目地址

• HuggingFace模型庫：https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2
• 技術論文：https://openreview.net/pdf?id=P6FIQILHwX

VeriLoop E2的同類競品對比

VeriLoop E2的應用場景

• 倉庫級代碼修復：用於 SWE 類任務中生成補丁、診斷迴歸並由測試/評估器決定是否保留，適合“修改必須可驗證”的維護場景。
• 終端與工具智能體：在 Terminal-Bench 類環境裏執行命令、調用工具、按證據觸發下一步，並以通過/失敗憑證控制是否推進。
• 數學推理與競賽求解：面向 AIME/ArXivMath 類高難推導，多輪採樣後用外部判定保留可復現解答，減少只看單次答案的僥倖。
• 科學計算與理論物理探索：在黎曼 ζ、量子場論、漸近引力子等研究中輔助提出構造、定位證明缺口。