dots3-note preview – 小紅書開源的多模態 MoE 模型

dots3-note preview是什麼

dots3-note preview 是小紅書 dots 模型實驗室開源的 dots3 系列首個版本，是 IMO 2026 滿分模型同系列。模型採用 280B 總參數/16B 激活參數的 MoE 架構，支持 512K 超長上下文與文本、視覺、語音多模態理解。模型針對複雜推理、Agent 與多模態感知優化，專攻旅行規劃、婚禮籌備等長程開放任務，在多項推理與智能體 benchmark 上可比肩數倍參數的大模型。

dots3-note preview的主要功能

• 長程開放域 Agent：專攻旅行規劃、婚禮籌備等無唯一答案、時間跨度長的複雜任務，獨立推進並交付結果。
• 複雜推理與數學證明：繼承 IMO 2026 滿分能力，具備頂尖數學推理與形式化證明水平。
• 多模態理解：支持文本、圖像、視頻、音頻輸入，可完成視覺空間判讀、文檔圖表解析與視頻問答。
• 端到端軟件工程：能獨立完成需求分析、技術選型、代碼實現、編譯構建到驗證運行的完整開發流程。
• 自主學習與糾錯：在未知規則環境中通過觀察假設、驗證反饋，出錯時啓動 Self-Critiquing 修正並寫入動態記憶。
• 交互式任務執行：無需專門訓練即可接管遊戲、破解 ARC-AGI 等需要實時反饋與長程策略調整的任務。

dots3-note preview的技術原理

• MoE 混合專家架構：模型總參數 280B，激活參數僅 16B，採用 256 個路由專家加 1 個共享專家的設計，每層通過 Top-8 路由選擇激活專家，並配備 5,120 維隱藏層與 152K 詞表，在控制推理成本的同時實現大容量模型的表達能力。
• 多 Token 預測加速：內置 1.13B 參數的共享多 Token 預測層，可在生成當前 token 時並行預測後續最多 3 個 token，無需獨立草稿模型即可實現推測解碼，有效降低推理延遲並提升吞吐量。
• 多模態編碼器融合：視覺信息由 7B 總參數/1.2B 激活的 MoE ViT 編碼器處理，音頻由 800M 參數的稠密網絡編碼，各模態特徵經投影后與語言模型對齊，實現文本、圖像、視頻、音頻的統一理解與跨模態推理。
• 長程任務認知機制：依託 512K 超長上下文窗口，模型在開放環境中通過觀察提出假設並驗證，出錯時啓動 Self-Critiquing 自我批判，將修正後的規則寫入外部 memory.md 動態記憶文件，實現跨步驟的知識累積與策略調整。

微信關注回覆“開源”，加入AI開源項目交流羣

如何使用dots3-note preview

• 訪問官方平台：前往 https://dots.ai/platform/ 註冊賬號並獲取 API 密鑰，直接通過雲端接口調用模型，無需本地部署。
• 下載模型權重：在 Hugging Face 上找到 dots-studio/dots3-note-prev 倉庫，下載 Apache-2.0 協議下的模型權重文件到本地服務器。
• 安裝推理框架：根據硬件環境選擇並安裝 vLLM、SGLang 或 Transformers 等兼容框架，加載模型以準備推理。
• 配置並行策略：針對 280B 總參數規模，設置張量並行（TP）與專家並行（EP），將計算分佈到多塊 GPU 上以滿足顯存與性能需求。
• 啓動任務調用：通過 API 或本地接口輸入文本、圖像、音頻等多模態數據，觸發長程 Agent 任務、複雜推理或端到端軟件工程。

dots3-note preview的核心優勢

• 極致參數效率：280B 總參數僅激活 16B，以遠低於同性能大模型的算力消耗，實現比肩甚至超越數倍參數模型的推理與 Agent 能力。
• 長程開放域 Agent：區別於數學/代碼等標準化場景，專攻旅行規劃、婚禮籌備等無唯一答案、時間跨度長的真實複雜任務。
• 頂尖推理基因：繼承 IMO 2026 官方認證滿分（42/42）的數學推理與形式化證明能力。
• 原生多模態理解：統一處理文本、圖像、視頻、音頻，支持視覺空間判讀、文檔圖表解析與跨模態推理。
• 自主學習與糾錯：內置 Self-Critiquing 機制，出錯時自動修正並將規則寫入 memory.md 動態記憶，實現跨步驟知識累積。
• 端到端工程能力：能獨立完成從需求分析、技術選型、代碼實現到編譯驗證的完整軟件工程流程。

dots3-note preview的項目地址

• 項目官網：https://studio.dots.ai/dots/dots3-en.html
• GitHub倉庫：https://github.com/studio-dots-ai/dots3-note-prev
• HuggingFace模型庫：https://huggingface.co/dots-studio/dots3-note-prev

dots3-note preview的同類競品對比

dots3-note preview的應用場景

• 智能裝修顧問：用戶上傳戶型圖、家電尺寸圖並語音描述需求，模型自動計算空間適配性，檢索風格案例，生成定製化裝修方案網頁並提醒現場復尺。
• 獨立遊戲代練 Agent：接管《殺戮尖塔 II》等策略遊戲，根據實時戰局學習敵人機制，動態管理牌組、金幣與藥水，在長程對局中做出全局最優決策。
• 婚禮全流程策劃師：從預算分配、場地篩選、賓客名單管理到流程時間表制定，模型在數週內持續跟進，根據突發變動（如天氣、人員調整）動態重新規劃。
• visionOS 原生應用開發：參考設計圖獨立完成 Apple Vision Pro 應用的需求分析、SwiftUI+RealityKit 代碼編寫、Xcode 工程構建與模擬器驗證，實現從 0 到 1 的空間應用交付。
• 跨模態深度研究助手：針對學術或商業課題，自主執行多輪搜索、閱讀 PDF 圖表、觀看視頻資料，整合多源信息生成結構化研究報告，並在發現矛盾時啓動 Self-Critiquing 修正結論。