然而,隨著用戶數(shù)量的激增,一些問(wèn)題也隨之而來(lái):連接不上、響應(yīng)緩慢等現(xiàn)象時(shí)有發(fā)生。這讓不少用戶體驗(yàn)大打折扣。但好消息是,這些問(wèn)題并非無(wú)解!
作為一款開(kāi)源AI項(xiàng)目,DeepSeek始終倡導(dǎo)本地化部署的理念。本地搭建正是解決這些問(wèn)題的最佳方案!通過(guò)將模型部署在自己的服務(wù)器上,用戶可以完全避免網(wǎng)絡(luò)延遲和連接問(wèn)題,同時(shí)還能享受更高的運(yùn)行效率和更低的使用成本。
如果您正在尋找一種穩(wěn)定、高效且靈活的AI解決方案,本地搭建DeepSeek無(wú)疑是一個(gè)明智的選擇。無(wú)論是個(gè)人開(kāi)發(fā)者還是企業(yè)用戶,都可以輕松實(shí)現(xiàn)本地部署,體驗(yàn)深度求索的強(qiáng)大能力。
首先,前往ollama官網(wǎng),下載ollama
點(diǎn)擊下載按鈕
根據(jù)自身,選擇對(duì)應(yīng)的操作系統(tǒng)
選擇對(duì)應(yīng)操作系統(tǒng)后,點(diǎn)擊“download”,然后就是一路下一步的安裝。
出現(xiàn)這個(gè)界面,即安裝成功
安裝完成后,在官網(wǎng)左上角點(diǎn)擊“Models”
選擇我們今天的主角“deepseek-r1”,在標(biāo)簽處根據(jù)自身顯卡顯存情況,選擇相對(duì)應(yīng)的模型(模型越大,需要的顯存也就越大,效果自然也就越好)
小編這里用“14b”的來(lái)進(jìn)行演示,選擇對(duì)應(yīng)的標(biāo)簽后,在右側(cè)就有對(duì)應(yīng)的命令
點(diǎn)擊箭頭所示復(fù)制按鈕,將命令復(fù)制后,粘貼進(jìn)命令提示符中
就自行開(kāi)始下載了,待下載完成后就可開(kāi)始使用了!
默認(rèn)情況下,ollama會(huì)安裝在C盤(pán),且模型較大,占用離譜。如何修改呢?
C:\Users\%username%\AppData\Local\Programs\Ollama
將該文件夾剪切至你想保存的位置
雙擊“path”
將ollama的新路徑輸入。
同樣是在環(huán)境變量這里,在下方的系統(tǒng)變量中,選擇新建
變量名
OLLAMA_MODELS
變量值
你想保存模型的路徑
命令提示符的使用既不方便,也不美觀。但ollama支持Web UI,使用起來(lái)就方便多了!
這里提供一個(gè)瀏覽器擴(kuò)展【Page Assist】
添加擴(kuò)展后,選擇模型,并且在“RAG設(shè)置”中,也選擇深度求索模型后,即可。
新年快樂(lè)!
聯(lián)系客服