LFM2.5-24B-A2B是什麼
LFM2.5-24B-A2B 是 Liquid AI 推出的開源權重推理模型，屬 LFM2.5 系列旗艦。總參數 24B、每 token 僅激活 2.45B，40 層 MoE 架構，支持 131K 上下文與 16 種語言。LFM2.5-24B-A2B回答前必先生成思維鏈，專爲端側 Agent 優化，LiveClaw 得分 48.09 反超參數量大 50% 的 Qwen3.6-35B-A3B，在 M5 Max 上解碼達 184 tok/s，比同類 MoE 最快 1.7 倍。適合本地私有化部署的推理與工具調用場景，知識密集任務建議搭配檢索使用。
LFM2.5-24B-A2B的主要功能
-
端側 Agent 推理：專爲在個人設備上本地運行的快速、私密智能體而設計。
-
純推理模式：回答前自動生成顯式思維鏈，用低激活成本換取答案質量。
-
函數調用：原生支持四步工具調用流程，可直接接入 OpenClaw、Hermes Agent、Pi、OpenCode 等框架。
-
多格式部署：提供原生、FP8、GGUF、ONNX、MLX-4bit 等版本，覆蓋 GPU、CPU、Apple Silicon 及邊緣設備。
-
長上下文處理：支持 131,072 tokens 上下文，可處理長文檔與多輪智能體軌跡。
-
多語言能力：覆蓋英、中、日、韓、阿拉伯等 16 種語言，128K 詞表優化非拉丁語系分詞。
-
快速推理：Apple M5 Max 上 184 tok/s，比同類 MoE 最高快 1.7 倍，單卡 B300 超 21K tok/s。
LFM2.5-24B-A2B的技術原理
- MoE 稀疏激活架構：模型共 24B 參數，但每個 MoE 塊包含 64 個專家，推理時僅通過 top-4 路由激活其中 4 個，使每 token 實際計算量僅 2.45B 參數。這是”大容量、低算耗”的核心，模型存儲全部知識，但每次前向只動用一小部分，從而實現遠小於同總參數量模型的推理成本。
- 混合層設計：卷積 + GQA 40 層網絡由 30 個”雙門控短卷積塊”與 10 層 GQA混合構成。短卷積負責高效提取局部序列特徵，注意力層負責長程依賴建模，兩者交替使模型在保持線性層高效計算的同時仍具備長上下文能力，這也是 LFM 架構在邊緣設備上速度快、內存省的結構基礎。
- 詞表原地擴展與長上下文訓練：在保留上一代 LFM2-24B-A2B 主體架構的前提下，通過原地 tokenizer 擴展將詞表從 65K 翻倍至 128K，顯著改善中文、日文等非拉丁語言的 token 效率；上下文窗口從 32K 擴展至 131K，配合 300B tokens 的長上下文專項中期訓練，使模型獲得穩定的長序列處理能力。
- 三階段訓練流程：預訓練消耗約 33T tokens；中期訓練先在 32K 上下文用 2T tokens 高質量數據強化推理、數學、代碼與指令遵循能力，在 131K 上下文用 300B tokens 專攻長文本，且兩個階段均注入工具調用與多輪交互數據；後訓練採用 SFT→教師專業化→非 Agent 與 Agent 兩輪多域同策略蒸餾→在 OpenClaw、Hermes 等真實智能體框架內做強化學習的五階段流水線，使模型真正學會在真實工具環境中”思考-調用-驗證”。
微信關注回覆“開源”，加入AI開源項目交流羣
如何使用LFM2.5-24B-A2B
-
獲取模型：從 Hugging Face 下載
LiquidAI/LFM2.5-24B-A2B，按硬件選擇原生 BF16、FP8、GGUF、ONNX 或 MLX-4bit 版本。 -
安裝環境：確保 Python 環境裝有
transformers>=5.0.0，或部署 vLLM、SGLang、llama.cpp、LM Studio 等推理框架。 -
加載模型：用
AutoModelForCausalLM.from_pretrained()以 bfloat16 精度加載模型。 -
構造提示：用
tokenizer.apply_chat_template()自動套用 ChatML 格式模板格式化對話。 -
參數設置：生成時採用官方推薦參數
temperature=0.1、top_k=50、repetition_penalty=1.05，思維鏈任務可將max_new_tokens設爲 4096 以上。 -
配置工具調用：將工具列表以 JSON 形式寫入 system prompt，模型會用
<|tool_call_start|>標記輸出函數調用，執行後以 tool 角色返回結果。 -
接入 Agent 框架：通過 OpenAI 兼容接口在本地啓動服務，再接入 OpenClaw、Hermes Agent、Pi 或 OpenCode 等智能體框架。
LFM2.5-24B-A2B的核心優勢
-
極致效率：24B 總參數僅激活 2.45B，Apple M5 Max 上 184 tok/s，比同類 MoE 最快 1.7 倍且內存佔用最少。
-
以小勝大：Agent 與工具基準上戰平參數多 50% 的 Qwen3.6-35B-A3B，LiveClaw 48.09 對 38.19，AutomationBench 更是超第二名 3 倍。
-
全程推理：純思維鏈模型先思考後回答，且因低激活成本使每個推理 token 都很便宜。
-
原生 Agent 能力：發佈即在 OpenClaw、Hermes、Pi、OpenCode 等主流框架內完成 Agentic RL 訓練，工具調用開箱即用。
-
開放無限制：基座與後訓練模型均開放權重，可自由下載、微調與商用。
-
全平台覆蓋：原生支持 llama.cpp、MLX、vLLM、SGLang、ONNX，兼容 Apple、AMD、Qualcomm、NVIDIA 硬件。
LFM2.5-24B-A2B的項目地址
- HuggingFace模型庫：https://huggingface.co/LiquidAI/LFM2.5-24B-A2B
LFM2.5-24B-A2B的同類競品對比
| 對比維度 | LFM2.5-24B-A2B（Liquid AI） | Qwen3.6-35B-A3B（阿里） |
|---|---|---|
| 總參數 / 激活參數 | 24B / 2.45B | 35B / 3B（約多 50%） |
| 定位 | 端側快速私有 Agent | 通用雲端/本地 MoE 模型 |
| 上下文長度 | 131,072 tokens | 未在對比表中突出，LFM2.5 更長 |
| 詞表 | 128K（原地擴展，優化非拉丁語系） | 常規詞表 |
| LiveClaw（Agent） | 48.09 ✅ | 38.19 |
| AutomationBench | 27.69 ✅（超 3 倍） | 8.72 |
| ToolSandbox | 80.71 ✅ | 75.02 |
| BFCLv4（工具調用） | 65.01 ✅（微幅領先） | 65.00 |
| τ³-Bench Banking | 8.04 ✅ | 7.63 |
| PinchBench | 83.18 | 89.93 ✅ |
| WebArena Verified | 26.75 | 37.62 ✅ |
| GPQA Diamond（知識） | 74.42 | 83.69 ✅ |
| SWE-Bench Verified | 51.00 | 66.20 ✅ |
| IFEval / IFBench / Multi-IF | 96.75 / 74.69 / 84.38 ✅ 三項全勝 | 93.06 / 64.21 / 81.53 |
| MATH-500 | 96.04 | **96.73 ✅（基本持平）** |
LFM2.5-24B-A2B的應用場景
-
端側私有 Agent：在 MacBook 等個人設備上全天候運行本地智能體，完成規劃、工具調用與任務執行，數據全程不出設備。
-
離線/邊緣助手：通過 GGUF、ONNX、MLX 格式部署到網絡不穩定或無網環境（車載、野外、嵌入式終端），提供離線推理能力。
-
智能工具調度：作爲 OpenClaw、Hermes Agent、OpenCode 等框架的驅動模型，執行定時簡報生成、文件整理、代碼操作等多步工作流。
-
業務流程自動化：用其在 ToolSandbox、τ³-Bench Banking 上的優勢，處理銀行、招聘、訂單等需要查詢系統並多輪確認的業務辦理對話。
© 版權聲明
文章版权归作者所有，未经允许请勿转载。
相關文章
暫無評論...
