Nanbeige4.2-3B – 南北閣實驗室推出的通用 Agent 小模型

Nanbeige4.2-3B是什麼

Nanbeige4.2-3B是BOSS直聘南北閣實驗室推出的通用Agent小模型，僅3B參數卻在代碼智能體、辦公工作流、複雜工具調用等Agent任務上超越Qwen3.5-9B與Gemma4-12B等更大模型。模型採用Looped Transformer架構提升有效容量，構建了代碼、工具、辦公三類Agent數據的閉環合成管線，經三階段課程SFT與多階段RL訓練，在降低推理成本的同時保持強Agent能力，已開源並適配多種推理引擎。

Nanbeige4.2-3B的主要功能

• 代碼智能體：支持在真實代碼倉庫中瀏覽、定位問題、完成修改並運行驗證，覆蓋軟件工程全流程。
• 辦公智能體：模型能處理文檔、表格、幻燈片、PDF等跨格式文件，支持多文件依賴與長流程辦公工作流。
• 複雜工具調用：支持MCP在線服務、本地Python工具及虛擬工具的鏈式調用與參數推斷。
• 通用推理：覆蓋數學、代碼與科學推理，在GPQA Diamond、HMMT等評測上取得同規模最佳成績。
• 本地個人助手：具備多輪規劃、文件處理與錯誤恢復能力，可低門檻部署爲本地Agent助手。

Nanbeige4.2-3B的技術原理

• Looped Transformer架構：模型隱藏狀態經全部Transformer層後再次回送同一組層進行第二遍計算，在不增加參數量的前提下提升有效計算深度，經驗證循環兩遍在效果與穩定性間最優，且不共享KV Cache以效果優先。
• 預訓練數據上採樣：語料從23T擴展至28T tokens，對數學、代碼和合成QA數據採取激進上採樣，使小模型在推理與知識評測上全面領先同規模基座。
• Agent數據閉環合成：針對代碼智能體構建”訓練—失敗分析—數據補充”飛輪，針對工具調用設計真實MCP、本地Python與虛擬工具三類環境並隨模型能力演化難度，針對辦公智能體建立素材聚類、任務生成、產出回收的閉環反饋。
• 三階段課程SFT：按64K→128K→256K逐步提升Agent數據佔比，對錯誤輪次設置Loss Mask保留錯誤上下文但不學習錯誤動作，使模型學會在真實錯誤歷史上修正任務。
• 多階段RL配方：先經Think/Non-Think兩階段RLHF穩定生成質量，再進行帶長度控制的Reasoning RL減少簡單問題無效Token，最後結合Outcome Reward與Action-Centric Rubric進行Agentic RL，選擇軌跡較短且已有成功率的任務訓練提升穩定性。

微信關注回覆“開源”，加入AI開源項目交流羣

如何使用Nanbeige4.2-3B

• 獲取模型權重：從Hugging Face下載Agent模型（Nanbeige4.2-3B）或Base模型（Nanbeige4.2-3B-Base）的權重文件。
• 選擇推理引擎：用已適配的Transformers、SGLang、vLLM、llama.cpp或Ollama等引擎加載模型，3B參數對硬件要求較低，適合本地PC或邊緣設備部署。
• 切換推理模式：根據任務複雜度選擇思考模式（Think）進行深度推理，或選擇非思考模式（Non-Think）進行快速響應，兩種模式可靈活切換。
• 接入Agent框架：將模型接入OpenClaw等Agent框架，配置外部工具和Scaffold，可執行多步代碼、辦公或研究任務。

Nanbeige4.2-3B的核心優勢

• 小參數大能力：3B參數在Agent任務上穩定超越9B/12B級模型，大幅降低高頻調用場景的推理成本。
• 架構創新：採用Looped Transformer在固定參數下壓榨有效容量，相比標準Transformer獲得約75%的token efficiency收益。
• 數據飛輪：三類Agent數據均構建閉環反饋與難度演化機制，訓練數據隨模型能力同步提升而非停滯。
• 訓練精細：SFT錯誤掩碼保留錯誤上下文但不學習錯誤動作，RL多階段配方兼顧準確率提升與輸出長度下降。
• 低門檻部署：已適配主流推理引擎，支持Think/Non-Think雙模式，適合本地部署與成本敏感場景。

Nanbeige4.2-3B的項目地址

• HuggingFace模型庫：
  • https://huggingface.co/Nanbeige/Nanbeige4.2-3B
  • https://huggingface.co/Nanbeige/Nanbeige4.2-3B-Base
• 技術論文：https://huggingface.co/Nanbeige/Nanbeige4.2-3B/blob/main/Nanbeige42_report.pdf

Nanbeige4.2-3B的同類競品對比

Nanbeige4.2-3B的應用場景

• 本地代碼開發：在開發者本地環境執行代碼倉庫瀏覽、Bug修復、補丁驗證等軟件工程任務。
• 辦公工作流自動化：自動處理跨格式文檔、表格與幻燈片，完成數據整理、報告生成及格式轉換。
• 智能工具編排服務：通過MCP協議調用在線服務與本地工具，實現信息檢索、數據分析與多步驟任務編排。
• 邊緣設備個人助手：部署在PC或NAS等本地設備，作爲低延遲、隱私可控的通用Agent助手。
• 高頻Agent系統核心引擎：在需數十至上百次模型調用的複雜Agent系統中替代大模型，顯著降低運營成本。