兄弟們,太炸裂了,不知道你們最近是不是被DeepSeek發(fā)布的R1模型刷屏了。
據(jù)說DeepSeek R1模型用更低的訓(xùn)練成本,全方位逼近甚至超越OpenAI的o1模型,并且其APP也登上了中國和美國蘋果應(yīng)用商店免費榜的第一名。
相比于CloseAI,DeepSeek開源了其模型權(quán)重,使得普通人也可以在家用電腦上進行部署。
今天,手把手教大家在本地部署DeepSeek R1,并將其集成到Dify中,實打?qū)嵦嵘愕墓ぷ餍剩?/strong>
在本節(jié)中,主要介紹如何在本地通過ollama部署DeepSeek R1。后面的章節(jié)將介紹如何將其集成到Dify中。
進入到ollama官網(wǎng),選擇對應(yīng)的操作系統(tǒng),下載ollama應(yīng)用程序并安裝:
安裝成功之后,在命令行輸入ollama
,如果出現(xiàn)下面的提示,則說明安裝成功。
在ollama官網(wǎng)的頂部,點擊「Models」,然后選擇第一個「DeepSeek R1」:
在模型界面,根據(jù)自己的顯存大小選擇對應(yīng)的版本:
比如,我的電腦是MacOS 32G,這里我選擇了14b的模型,點擊14b,然后在右側(cè)會出現(xiàn)下載命令:
命令執(zhí)行完成之后,就可以通過命令行和大模型進行對話了:
當(dāng)然,只是通過命令和大模型進行對話還是不太方便了點,那么接下來,介紹一下如何將其集成到Dify中,通過可視化的方式進行調(diào)用。