六種方式快速體驗(yàn)最新發(fā)布的 Llama 3!
昨晚, Meta 發(fā)布了 Llama 3 8B 和 70B 模型,Llama 3 指令調(diào)整模型針對(duì)對(duì)話/聊天用例進(jìn)行了微調(diào)和優(yōu)化,在常見(jiàn)基準(zhǔn)測(cè)試中優(yōu)于許多現(xiàn)有的開(kāi)源聊天模型。比如,Gemma 7B 和 Mistral 7B。
Llama 3 模型將數(shù)據(jù)和規(guī)模提升到了新的高度。它是在 Meta 最近發(fā)布的兩個(gè)定制的 24K GPU 集群上對(duì)超過(guò) 15T token 的數(shù)據(jù)進(jìn)行訓(xùn)練的,這個(gè)訓(xùn)練數(shù)據(jù)集比 Llama 2 大 7 倍,包括多 4 倍的代碼。這使得 Llama 模型的能力達(dá)到了目前的最高水平,它支持 8K 上下文長(zhǎng)度,是 Llama 2 的兩倍。
下面我將介紹 6 種方式,讓你快速體驗(yàn)最新發(fā)布的 Llama 3!
在線體驗(yàn) Llama 3
HuggingChat
llama2.ai
本地體驗(yàn) Llama 3
LM Studio
CodeGPT
https://marketplace.visualstudio.com/items?itemName=DanielSanMedium.dscodegpt&ssr=false
使用 CodeGPT 前,記得先使用 Ollama 拉取相應(yīng)的模型。比如,拉取 llama3:8b 模型:ollama pull llama3:8b。如果你本地尚未安裝 ollama,可以閱讀 “部署本地的大語(yǔ)言模型,只需幾分鐘!” 這篇文章。
Ollama
運(yùn)行 Llama 3 8B 模型:
ollama run llama3
運(yùn)行 Llama 3 70B 模型:
ollama run llama3:70b
Open WebUI & Ollama
https://pinokio.computer/item?uri=https://github.com/cocktailpeanutlabs/open-webui。