InternSVG – 上海AI Lab推出的統一 SVG 建模套件

AI工具8小時前發佈新公告 AI管理員
0 0

InternSVG是什麼

InternSVG是上海人工智能實驗室等推出的面向統一SVG建模的“數據-評測-模型”綜合套件,包含三大組件:超1600萬樣本的SAgoge數據集、標準化SArena評測基準,以及基於InternVL3-8B的統一多模態大模型。InternSVG通過SVG專屬Token和兩階段訓練,實現圖標、插畫、化學結構、動畫的理解、編輯與生成任務統一建模,顯著超越現有方法。

InternSVG – 上海AI Lab推出的統一 SVG 建模套件

InternSVG的主要功能

  • 語義理解:InternSVG能解析 SVG 代碼的語義和結構,支持生成詳細描述和回答多選題,準確識別圖形內容與屬性。
  • 指令編輯:支持 10 種編輯操作,涵蓋顏色修改、幾何變換等低級編輯和語義顏色替換、風格遷移等高級編輯。
  • 跨模態生成:支持文本或圖像生成靜態 SVG(圖標、插畫、化學結構式),以及文本或視頻生成矢量動畫。

InternSVG的技術原理

  • 架構基礎:基於 InternVL3-8B 的 ViT-MLP-LLM 範式構建,採用 InternViT-300M 作爲視覺編碼器處理輸入圖像或視頻,通過 MLP 投影層連接 Qwen2.5-7B 語言模型進行序列建模。
  • SVG 專屬 Token:針對 SVG 語法設計 200 餘個特殊 Token,覆蓋 55 個核心標籤、42 個屬性及數值範圍,將序列長度壓縮 30-50%,有效緩解長序列建模的上下文壓力。
  • 子詞嵌入初始化:將新 Token 分解爲預訓練子詞並平均其嵌入作爲初始值,保留語義先驗知識,使訓練損失降低約 40% 顯著加速收斂。
  • 兩階段漸進訓練:第一階段在結構簡單的圖標和化學數據上訓練以建立基礎語法認知,第二階段引入長序列插畫和複雜動畫數據,通過課程學習策略逐步提升模型處理複雜結構的能力。
  • 統一任務建模:通過共享的 Transformer 架構同時處理理解、編輯、生成三類任務,使跨任務知識產生正遷移,避免爲單任務單獨訓練模型,顯著提升參數效率和泛化能力。

如何使用InternSVG

  • 環境準備:克隆倉庫後創建 Python 3.9 虛擬環境並安裝依賴包,如需評測則下載 ViCLIP 檢查點。
  • 模型部署:從 HuggingFace 下載 InternSVG-8B 模型權重,用 LMDeploy 啓動 API 服務支持多卡並行推理。
  • 調用推理:通過標準 OpenAI API 格式發送請求,支持輸入文本或圖像生成 SVG,或輸入 SVG 代碼進行理解與編輯。
  • 自定義訓練:準備數據集並運行添加特殊 Token 的腳本,隨後依次執行第一階段(簡單數據)和第二階段(全量數據)的微調訓練。
  • 模型評測:下載 SArena 基準數據集,對模型輸出進行推理並計算各項評價指標以驗證性能。

InternSVG的項目地址

  • GitHub倉庫:https://github.com/hmwang2002/InternSVG
  • HuggingFace模型庫:https://huggingface.co/InternSVG/InternSVG-8B
  • arXiv技術論文:https://arxiv.org/pdf/2510.11341

InternSVG的關鍵信息和使用要求

  • 項目定位:InternSVG 是上海人工智能實驗室聯合上海交大、南京大學等機構推出的統一 SVG 建模綜合套件,已被 ICLR 2026 接收。
  • 核心組件:包含三大核心組件——超 1600 萬樣本的 SAgoge 多模態數據集(覆蓋圖標、插畫、化學結構式、矢量動畫四大領域)、標準化 SArena 綜合評測基準(提供統一的任務定義與評估指標)、以及基於 InternVL3-8B 的 InternSVG-8B 統一多模態大模型。
  • 硬件環境:推理需至少單張 GPU(推薦多卡部署以提升吞吐量),訓練需 96 張 NVIDIA A800 或同等算力支持。
    軟件依賴:Python 3.9,需安裝 PyTorch、Transformers、LMDeploy(用於服務部署)及 LLaMA-Factory(用於訓練)。

InternSVG的核心優勢

  • 全任務統一建模:打破傳統 SVG 理解、編輯、生成任務相互隔離的侷限,通過單一模型架構實現跨任務知識正遷移,避免爲不同任務重複訓練模型,顯著提升參數效率和泛化能力。
  • 超大規模數據基礎:依託目前最大的 SVG 多模態數據集 SAgoge(超 1600 萬樣本),涵蓋圖標、長序列插畫、化學結構式、矢量動畫四大高價值領域,爲模型提供從簡單靜態圖形到複雜動態序列的全面訓練支撐。
  • 專業技術優化:創新引入 200 餘個 SVG 專屬特殊 Token 及子詞嵌入初始化策略,配合兩階段漸進式訓練(從簡單圖標到複雜動畫),有效壓縮序列長度 30-50%,加速收斂並顯著降低長序列建模難度。
  • 全面性能領先:在 SArena 標準化基準測試中,相比 Claude-4-Sonnet、GPT-4o 等最強專有模型,理解準確率提升約 11%,編輯任務 PSNR 提升約 34%,生成任務 FID 降低約 56%,實現全任務、全領域的顯著超越。
  • 專業領域精度:在化學有機結構式生成等對拓撲準確性和符號規範性要求極高的專業場景中,對鍵角、原子標註、環狀結構的還原精度大幅領先現有基線,滿足科學可視化的高精度需求。

InternSVG的同類競品對比

對比維度 InternSVG StarVector OmniSVG
技術路線 統一多模態大模型(InternVL3-8B) LLM-based(CodeLlama 架構) 統一多模態框架(Qwen-VL 基礎)
任務覆蓋 理解+編輯+生成+動畫(全任務閉環) 僅靜態圖標生成(文生/圖生) 理解+生成,但缺乏系統編輯能力
數據規模 SAgoge 1600 萬樣本(四領域) 百萬級圖標數據 數據多樣性有限,未覆蓋化學/動畫
動畫支持 支持 Text-to-SANI 和 Video-to-SANI 不支持 不支持
編輯能力 10 種編輯操作(顏色/幾何/風格) 不支持 僅基礎生成,無指令編輯
專業領域 覆蓋化學結構式、長序列插畫 僅通用圖標 圖標與基礎插畫
序列處理 支持 8000+ tokens 長序列 短序列圖標優化 中等長度序列
代碼緊湊度 1.3k tokens(高度精簡) 代碼較冗長 中等長度

InternSVG的應用場景

  • 數字設計創作:設計師可通過文本描述或參考圖像快速生成高質量矢量圖標、插畫素材,支持基於自然語言指令進行顏色調整、風格遷移等精細化編輯,顯著提升 UI/UX 設計效率。
  • 科學可視化:在化學、生物等科研領域,研究人員可將分子名稱或結構圖像自動轉換爲精確的矢量化學結構式,滿足論文插圖、教科書出版對圖形規範性和可編輯性的嚴格要求。
  • 智能內容理解:自動解析 SVG 圖標或插畫的語義內容與幾何結構,支持視覺障礙輔助、圖像檢索、以及基於圖形內容的智能問答與知識抽取。
  • 動態媒體生產:根據文本腳本或參考視頻生成矢量動畫(如加載動畫、圖標動效),輸出輕量且可無限縮放的動畫資源,適配多終端顯示需求。
  • 教育與技術文檔:InternSVG支持通過自然語言指令實時調整圖形元素,降低非設計專業人員製作高質量矢量教學內容的門檻。
© 版權聲明

相關文章

暫無評論

暫無評論...