Intern-S1-Pro – 上海AI Lab開源的科學多模態大模型

0 0 0

Intern-S1-Pro是什麼

Intern-S1-Pro是上海AI實驗室開源的萬億參數科學多模態大模型，採用MoE架構（1T總參數，22B激活），基於”通專融合”SAGE技術打造。模型通過傅里葉位置編碼和重構時序編碼器賦予模型”物理直覺”，統一理解微觀生命信號到宏觀宇宙波動，在奧賽級數理推理、五大科學學科（化學、材料、生命、地球、物理）及真實科研場景中表現卓越，是全球開源社區參數規模最大的科學多模態模型，推動AI4S從”工具革命”邁向”科學發現”新範式。

Intern-S1-Pro的主要功能

科學推理：模型具備奧賽金牌級別的數理邏輯推理能力，在國際數學奧林匹克和國際物理奧林匹克評測中表現卓越。
多模態理解：模型能精準解析分子結構圖、實驗圖表、遙感圖像等複雜科學視覺內容。
時序信號分析：統一處理從數個到百萬級採樣的異構時序數據，覆蓋天文、地理、生理信號、生物聲學等多領域。
跨學科研究：構建跨越化學、材料、生命、地球、物理五大核心學科的全譜系能力矩陣，支持化學逆合成、蛋白質序列生成等100多個專業子任務。
智能體能力：支持實現從靜態任務規劃到動態環境交互的跨越，在複雜科研流程中展現國際一流的自主規劃與執行能力。
通用能力：在圖文跨模態理解、高質量文本生成、複雜指令遵循、工具調用等維度穩居開源模型第一梯隊。

Intern-S1-Pro的技術原理

SAGE”通專融合”架構：通過共享基礎表徵層和分化專家層的設計，使模型在訓練過程中能夠相互增強，保持廣泛的通用認知能力和深度專業化的科學推理能力，實現”可深度專業化通用模型”的目標。
混合專家架構（MoE）：Intern-S1-Pro採用總參數達1萬億、包含512個專家的MoE架構，每次前向傳播僅激活8個專家（約220億激活參數），通過創新的路由稠密估計機制提升訓練穩定性，避免傳統MoE中常見的專家崩潰問題，同時引入分組路由策略實現海量計算芯片的負載均衡，像智能交通系統一樣高效調度算力資源。
物理感知層創新：研究團隊引入傅里葉位置編碼（FoPE）賦予模型獨特的”物理直覺”——能像觀察粒子一樣捕捉文本token之間的相對距離，和像分析波動一樣把握科學信號的整體頻率規律；同時重構自適應時序編碼器，使其根據數據密度自動調整，首次實現對跨越多達六個數量級採樣規模的異構時序信號的統一建模。
國產算力深度適配：模型從架構設計之初就與昇騰計算生態確立聯合研發路線，實現從最底層算子優化、編譯器適配到上層訓練框架XTuner V1和推理引擎LMDeploy的全棧深度適配，攻克大規模訓練中的精度對齊、超長序列強化學習穩定性等核心技術難題，構建自主可控的”算力-算法”一體化基座。