Muse Spark Open – Meta 開源的多模態大模型

Muse Spark Open是什麼

Muse Spark Open 是 Meta 開源的多模態大模型，採用稀疏混合專家架構，總參數 8160 億、單次推理激活 420 億，支持 100 萬 Token 上下文，可處理文本、圖像、視頻和音頻，主攻編程與 Agent 任務。Muse Spark Open 基於 MLX 框架可在兩台 M5 Ultra Mac Studio 上本地運行，綜合與編程能力暫落後於多款國產開源模型，如 MiMo-V2.6-Pro、GLM-5.3 和 Kimi K3。

Muse Spark Open的主要功能

• 超長上下文理解：支持 100 萬 Token 上下文窗口，可一次性處理超長文檔與代碼庫。
• 原生多模態處理：可接收並理解文本、圖像、視頻、音頻四種模態的輸入。
• 編程能力：能修復 Bug、添加功能、完成項目構建，勝任複雜軟件工程任務。
• Agent 任務執行：可長時間自主執行多步推理任務，如操作 DaVinci Resolve 完成視頻剪輯。
• 桌面端本地運行：經 MLX 框架優化，可在兩台 M5 Ultra Mac Studio 上本地跑完整模型。
• 多框架多芯片適配：支持 SGLang、vLLM、llama.cpp 等主流推理框架，兼容英偉達、AMD、蘋果、英特爾芯片。
• 雲端 API 調用：可通過 OpenRouter、Groq、Together AI 等平台以 API 形式使用。

Muse Spark Open的技術原理

• 稀疏混合專家（MoE）架構：模型總參數達 8160 億，每次推理僅激活約 420 億參數。通過路由機制將每個 Token 分配給少數專家網絡處理，在保持模型容量的同時大幅降低計算開銷，使超大模型在有限硬件上運行成爲可能。
• 百萬級上下文窗口：採用高效的長序列處理技術，將上下文窗口擴展至 100 萬 Token，使模型能一次性納入超長代碼庫、多份文檔或長視頻信息，滿足長時間任務對”記憶”的需求。
• 統一內存架構下的分佈式推理：蘋果 M5 Ultra 的統一內存架構支持每台 Mac Studio 的集成 GPU 使用最高 512GB 內存，兩台合計約 1TB、內存帶寬達 1.2TB/s。藉助新版 MLX 框架，兩台設備可像一台超級計算機一樣協同工作，完整容納 8160 億參數模型。
• 定製 GPU 內核加速：Meta 爲 SGLang 提供可自動調優的定製 Helion GPU 內核，在英偉達和 AMD GPU 上實現 1.03–3.95 倍的內核級加速，在 AMD MI350 上帶來約 3% 的端到端性能提升。

微信關注回覆“開源”，加入AI開源項目交流羣

如何使用Muse Spark Open

• 獲取訪問渠道：通過OpenRouter 或 Together AI 等平台的 API 直接調用模型。
• 下載模型權重：如需本地部署，可前往 Hugging Face 下載開放權重。
• 選擇推理框架：根據硬件環境選用 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、蘋果 MLX、llama.cpp 或 Unsloth 等框架加載模型。
• 準備硬件環境：雲端使用英偉達或 AMD GPU，本地桌面端可用兩台 M5 Ultra 芯片的 Mac Studio運行完整模型。
• 編寫調用代碼：用 PyTorch 等框架編寫推理腳本，輸入文本、圖像、視頻或音頻提示詞，設定 100 萬 Token 內的上下文內容。
• 執行 Agent 任務：通過 API 或本地運行驅動編程、視頻剪輯等多步 Agent 工作流。

Muse Spark Open的核心優勢

• 規模領先：總參數 8160 億、每次推理僅激活 420 億，是迄今 Meta 最強的美國開放權重模型。
• 超長上下文：支持 100 萬 Token 上下文窗口，能一次性處理超長文檔與大型代碼庫。
• 原生多模態：統一處理文本、圖像、視頻、音頻，可直接驅動視頻剪輯等多模態工具。
• 桌面本地可跑：經 MLX 框架優化，可在兩台 M5 Ultra Mac Studio 上完整運行，將 Agent 工作流搬入本地。
• 生態開放：權重完全開放，支持 SGLang、vLLM、llama.cpp 等七大框架，兼容英偉達、AMD、蘋果、英特爾芯片。
• 高度可定製：開發者可基於 PyTorch 對模型進行微調和二次開發。

Muse Spark Open的項目地址

• 項目官網：https://dev.meta.ai/resources/blog/build-with-muse-spark-open
• HuggingFace模型庫：https://huggingface.co/collections/meta-models/muse-spark-open

Muse Spark Open的同類競品對比

Muse Spark Open的應用場景