ColossalChat是由Colossal-AI推出的免費開源版ChatGPT聊天機器人替代品,目前其GitHub項目已斬獲26K星標。
作爲當今領先的開源大型人工智能模型解決方案,Colossal AI是第一個基於LLaMA預訓練模型開源完整RLHF機制的公司,該機制包括監督數據收集、監督微調、獎勵模型訓練和強化學習微調,並共享ColossalChat——與最初的ChatGPT技術解決方案非常相似的開源項目。
該開源項目包括以下內容:
- Demo演示:一個交互式演示,無需註冊或加入等待名單即可在線試用
- 訓練代碼:開源完整的RLHF訓練代碼,包括70億和130億的模型。
- 數據集:開源104K中英文雙語數據集。
- 推理:僅需要4GB GPU內存便可進行70億參數模型的4-bit量化推理。
- 模型權重:在單個服務器上只需少量計算能力即可實現快速複製。
數據統計
相關導航
暫無評論...