Meta 發布了最新的開源語言模型Llama 3。因為它是開源的，你可以下載這個模型，并在自己的電腦上運行。
我清楚，你可能會想，在個人筆記本上運行一個擁有80億參數的AI模型似乎只有技術高手才能做到。但別擔心！這篇文章會提供一個簡單的步驟指導，幫助每個人都能輕松上手。
在我們深入到具體步驟之前，我們先來看一下我當前使用的環境配置：
筆記本型號：Lenovo ThinkPad X1 Extreme
操作系統：Windows 11 Pro 版本 10.0.22631 構建 22631
CPU：Intel(R) Core(TM) i7-9850H 處理器
內存：32 GB
硬盤空間：642 GB
確實，運行這個模型并不需要你擁有頂級的GPU。只要有一個不錯的CPU和充足的內存，你就能在自己的電腦上順暢運行Llama 3。
首先，訪問Ollama網站，下載最新版本的安裝程序。Ollama是一個多功能工具，旨在幫助用戶在不同平臺上本地運行、創建和分享大型語言模型（LLMs）。
完成Ollama的安裝后，確保它在后臺運行。你可以通過系統托盤或任務管理器中的Ollama圖標來進行檢查。
要驗證Ollama在命令行界面（CLI）中是否正常工作，可以運行以下命令來查看版本。我當前的版本是0.1.32，你的版本可能會有所不同。
> ollama -vollama version is 0.1.32
接下來，打開Visual Studio Code，轉到擴展標簽頁。搜索來自codegpt.co的“CodeGPT”并安裝這個擴展。這個擴展使你能夠直接在VS Code里使用Llama 3。
安裝完畢后，你應該能在VS Code的左側邊欄看到CodeGPT的圖標。
在VS Code的終端里，運行以下命令來下載Llama 3模型：
ollama pull llama3:8b
因為模型大小超過4GB，所以下載可能需要一段時間。請耐心等待直到完成。下載成功后，你將看到一個成功的消息提示。
在VS Code的左側CodeGPT儀表板中，找到“提供者”下拉菜單，選擇“Ollama”。然后，在“模型”下拉菜單中選擇“Llama3:8b”。如果列表中沒有顯示這個模型，你可以手動輸入“Llama3:8b”。
確保正確選擇模型，這樣CodeGPT就會使用Llama 3來生成回答。
現在我們已經下載了模型并在VS Code上安裝了CodeGPT，讓我們通過輸入一個測試提示來檢查一切是否正常工作。
Prompt: what is the distance of the moon from Earth?
Response: The average distance from the Earth to the Moon is approximately 384,400 kilometers (238,900 miles). This is called the “lunar distance” or “lunar mean distance.” However, the Moon’s orbit is not a perfect circle and its distance from Earth varies slightly due to the elliptical shape of its orbit. The closest point in this orbit, called “perigee,” is about 356,400 kilometers (221,500 miles), while the farthest point, called “apogee,” is about 405,500 kilometers (252,000 miles).
一切正常工作?，F在，讓我們使用模型來解釋一段源代碼。在VS Code中寫入或打開任何源代碼文件。右鍵點擊文件，選擇“CodeGPT: 解釋CodeGPT”讓AI來解釋這段源代碼。
值得注意的是，代碼會作為提示輸入傳遞給CodeGPT面板。AI分析代碼，并提供了詳細的解釋。
這非?？?，因為你不再需要把代碼塊復制粘貼到ChatGPT或VS Code外的其他聊天機器人中。而且，這完全是免費的，而且是在你的機器上本地運行的，所以你不需要擔心API成本或網絡連接問題。
就這樣！一份關于如何在Visual Studio Code中運行Llama 3的逐步指南。我希望你覺得這個指南有用，而且易于操作。在你自己的機器上本地運行強大的語言模型并沒有想象中那么困難。
Ollama：https://ollama.com/download
Llama 3：https://generativeai.pub/meta-released-llama-3-the-most-powerful-open-source-language-model-c472f303901a
