午間，帶娃，看到修讀博士學位時課題組群提到 deepseek 的本地化部署。Emmm... 可能有自己部署過的經驗的人不多，所以會新鮮感。實際上，有知道 ollama 的朋友，或者甚至是比如 LM Studio 更或者自己實現過簡單 UI 的都清楚，這些的意義不是很大，尤其是 7B 。7B 能做的，我覺得或許做一下 RAG 勉強可以，或者謝謝 SQL 命令？
不過最近經常刷到，然后也很多人搞起來，似乎 7B 就很牛的樣子？不試試總是不行的。
我只有 windows 操作系統，沒有 Mac，另外也沒有合適的 Linux 或者云服務器。于是就直接在 windows 下折騰。
整體部署步驟簡單：
安裝 ollama，直接到官網下載windows安裝器安裝即可
直接cmd，隨后類似 docker , ollama pull deepseek:7B 即可
可以使用了
效果如下：
簡單來說，.... 基本沒用。不過玩玩是可以的。
命令行使用大伙可能不太習慣，尤其是我喜歡好看的。可以用 chatbot_ollama，配置基本也是一兩行命令，自行完成，效果如下
好吧。我承認一開始我的想法是試一下，說不定真的好用呢。那我就搞成所有 TBtools 用戶都能直接一鍵部署使用的。但很明顯，效果遠不如我的預期，至少目前的狀態，我覺得還是只能看看走一下agent。不過其實 deepseek 官網版本就超過滿血671B，懂的都懂，似乎也沒必要自己折騰部署一個。
最后，這個嘗試就用來寫一個推送，給感興趣的朋友推薦這兩個“程序”，
「ollama」和「chatbot_ollama」。
PS: 其實感興趣的朋友完全可以試試其他模型，不用太執著于 deepseek 的蒸餾模型。有朋友提到，32B 以上可能編程效果才好一點。但是這個大小，可能很多筆記本電腦撐不住了。
