今天這篇教程介紹個人電腦,接入大模型的搭建方法。
首先,這種搭建方法在本地電腦也能流暢流行,因為使用了專家微調后的大模型,專門針對編程的,所以參數規模和計算資源消耗,都降到最小,一般電腦也能流暢的運行。
如下圖所示,我推薦的deepseek-coder編程大模型,參數尺寸只有776M,相比于通用大模型如qwen:7b和llama3:8b都有近5G的參數規模,可以說已經輕量級到極限:
其次,這種搭建方法是沒有費用的,推薦的方法包括Pycharm社區版,可以免費使用,deepseek-coder是開源的編程大模型,而CodeGPT插件也是免費。所以全都是免費的,并且沒有附帶費用。
再次,CodeGPT插件目前應該是支持開源大模型編程最好的插件之一了,大家看完這篇教程,就知道它的界面使用非常小白,看完教程大家直接就能在本地借助大模型更好學習Python起來了。
如下圖所示,接入Pycharm后,可以直接在右側面板使用大模型能力,這樣就不用來回倒騰頁面了,操作方便性直接拉到極限:
目標決定了選型策略,具體來說,很多想學編程的朋友想借助大模型直接在Pycharm或vscode里編寫。這種目標需要使用大模型的API,而絕大部分大模型走API調用都有費用。
而本篇介紹的教程方案就解決了這個問題,并且deepseek是目前公認的編程較好的大模型,因此方案還是比較好的。
基于上面的目標,最后找出這種組合:
Pycharm社區版或vscode + 輕量級的deepseek-coder + CodeGPT插件。
總結下來,這個方案具有三個特點:輕量級,運行速度快,開源免費。
第一步,安裝Pycharm,推薦安裝社區版,完全免費,
這個頁面包括了Pycharm社區版最近幾年的歷史版本,推薦收藏。如下為下載軟件頁面部分截圖:
第二步,安裝deepseek-coder,推薦使用ollama管理本地大模型,目前使用最多的管理工具之一。
關于安裝ollama和ollama安裝在本地安裝大模型的系統介紹,我在此前幾篇文章都有詳細教程,在此不再重復,沒看過的參考:自己電腦搭建AI大模型詳細教程,支持通義千問、Llama3、接口調用等。
安裝完成后,可以做個簡單測試:
在終端提問界面不友好,需要有比較好的UI工具輔助,更友好的幫助我們學習編程,為了解決此問題,因此有了第三步。
第三步,安裝CodeGPT,安裝它之后,可以直接在Pycharm或vscode里像GPT那樣輔助編程了。因此,第三步是很關鍵的。
在這里我以Pycharm里安裝這個插件為例,介紹如何安裝。
打開Pycharm,蘋果電腦是找到設置,Windows電腦是文件按鈕下的設置,進入到設置頁面,如下所示,在這個頁面的操作步驟,我都已經按照箭頭和文字標注了,大家按照步驟操作下:
找到這個插件后,選擇右側的Install按鈕,就能安裝完成了:
安裝就是這么簡單,至此我們已經全部安裝完成。
再次打開Pycharm后,在最右側會出現如箭頭所示的圖標,點擊下:
就出現下面這個頁面,在右側我們就可以使用大模型對話界面一樣,使用它解決編程問題了,這種方式不用拉回倒騰頁面,會比較方便:
選的模型比較小,運行速度還是很快的。除此以外,這個插件還有智能代碼補全功能,更多功能大家在使用過程中可以慢慢摸索。
本方案輕量級、免費且易于操作,適合個人電腦搭建大模型環境。
借助 Pycharm 社區版、DeepSeek-Coder 和 CodeGPT 插件,實現高效學習和編程支持。
安裝簡單、運行流暢,是零成本接入大模型的一個不錯的解決方案。
本文,完。