Jan

Jan（Jan.ai）是一個免費開源的本地運行大模型並進行AI聊天對話的工具，可幫助用戶在本地電腦（Windows、Mac、Linux）上安裝、部署、運行並使用開源版本的ChatGPT替代大模型，如LLaMa、Mistral、Phi-2等20多個模型，也支持輸入自己的OpenAI API Key以運行GPT。相較於AI工具集此前介紹的Ollama，該工具提供了對話UI和API服務器，適合開發者、研究人員或AI愛好者本地體驗開源的大模型。

Jan的主要功能

• 本地運行開源大模型：支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多個模型，可手動導入也可以在模型庫下載模型
• 簡潔好用的聊天界面：軟件界面清爽簡潔、直觀易用，直接在本地與開源大模型快速進行對話聊天
• 支持多個平台：Jan支持在Windows、Mac（Intel、M1/M2/M3）和Linux等操作系統運行，後續還將推出移動端APP。
• 內置API服務器：與OpenAI API兼容，可通過API獲取模型信息、下載、啓動、停止模型及聊天等

如何使用Jan

1. 訪問Jan的官網（jan.ai），選擇對應的電腦操作系統版本，點擊Download進行下載
2. 然後安裝並打開軟件，在軟件界面的左下角點擊Download your first model
3. 進入模型庫Hub界面，選擇你感興趣的模型進行下載，下載完成後點擊Use使用該模型
4. 在對話界面輸入你的描述即可與你選擇的模型進行對話啦

Jan還在持續開發中，後續會支持移動端APP、創建AI助理、推理引擎、插件擴展等功能。