精品伊人久久大香线蕉,开心久久婷婷综合中文字幕,杏田冲梨,人妻无码aⅴ不卡中文字幕

目的

你知道國(guó)內(nèi)大模型多少是基于Llama2改造的，你就知道Llama模型有多厲害了，那么現(xiàn)在Llama3剛出來(lái)，搞自媒體的趕緊蹭Llama3的流量，搞技術(shù)的程序員趕緊抓住研究一下，看能否技術(shù)變現(xiàn)一下，尤其搞技術(shù)的，再不動(dòng)到時(shí)年齡大了被裁員了不要怨天怨地的！

操作難度等級(jí)

非程序員的普通人及產(chǎn)品經(jīng)理都可以按此文章說(shuō)來(lái)本地部署

15分鐘本地Windows電腦部署Llama3 開(kāi)源大模型

1、下載安裝Ollama

訪問(wèn)https://ollama.com，下載Ollama客戶端，下載Windows版本，如果你的電腦是MacOs,下載對(duì)應(yīng)的版本即可。

安裝完成后，打開(kāi)Windows命令窗口，輸入ollama，出現(xiàn)如下提示，說(shuō)明安裝成功，可以使用了：

2、使用Ollama的命令下載Llama3模型文件

在ollama命令窗口輸入：

ollama run llama3

按回車(chē)后就開(kāi)始自動(dòng)下載Llama3模型文件，默認(rèn)下載最新的8B版本，模型文件大小4.7G。

等待5到10分鐘即可下載完成（下載文件途中可以去上個(gè)廁所或者關(guān)注一下我的賬號(hào)）

3、使用Llama3聊天對(duì)話功能

下載完成后出現(xiàn)send a message提示時(shí)，就可以直接與它進(jìn)行對(duì)話了。看看我和它的對(duì)話：

4、本地Llama3 API接口調(diào)用

ollama會(huì)自動(dòng)生成Llama3的API接口訪問(wèn)地址，API文檔地址：https://github.com/ollama/ollama/blob/main/docs/api.md

請(qǐng)求地址：

curl http://localhost:11434/api/chat -d '{
  'model': 'llama3',
  'messages': [
    {
      'role': 'user',
      'content': 'why is the sky blue?'
    }
  ],
  'stream': false
}'

不會(huì)寫(xiě)代碼的，使用Postman去調(diào)試：