Deepseek AI模型本地部署步驟簡(jiǎn)記:ollama + deepseek-r1 + 本地AI模型的Web UI
deepseek 官網(wǎng)經(jīng)常提示“服務(wù)器繁忙,請(qǐng)稍后再試。”,于是想自己實(shí)現(xiàn)本地部署。 但是由于個(gè)人電腦太菜,只能嘗試一下步驟,記錄一下,后面等有強(qiáng)悍的服務(wù)器 或者模型進(jìn)一步優(yōu)化才能私人真正獨(dú)立的使用與生產(chǎn)。
總體方案:ollama + deepseek-r1 + 本地AI模型的Web UI
第一步:ollama網(wǎng)站下載ollama
(Ollama 是一個(gè)用于管理和運(yùn)行本地 AI 模型的軟件工具。它提供了一種簡(jiǎn)化的方式來下載、管理和在本地計(jì)算機(jī)上運(yùn)行各種 AI 模型,而無需依賴云計(jì)算資源。這對(duì)于那些需要在本地環(huán)境中處理敏感數(shù)據(jù)或希望減少對(duì)外部服務(wù)依賴的用戶來說尤其有用。)
??https://ollama.com/download/windows??
我的小電腦是windows,所以下載windows版本,下載完成后雙擊安裝。
提升安裝完成后,看看是否安裝成功。 ollama -v看下版本 或者ollama看看有沒有提示信息,如下圖
這里安裝ollama成功了。
第二步:下載模型 deepseek
在網(wǎng)頁(yè)上找到deepseek-r1,點(diǎn)開
deepseek-r1信息如下,有1.5b,7b,。。。 671b。 個(gè)人電腦資源太小,只能玩一下1.5b的。 硬件資源夠的可以試試更大的。
復(fù)制這一條下載命令,然后在終端中執(zhí)行,下載模型到本地執(zhí)行。
下載過程
下載完成后,終端提示可以對(duì)話了。
顯然界面不太友好,需要一個(gè)友好的UI界面。
第三步:谷歌應(yīng)用商店搜索一個(gè)UI界面
谷歌商店里面 找到 Page Assist - 本地 AI 模型的 Web UI 并安裝
語言設(shè)置為中文
選擇模型為下載的模型
然后在聊天交互界面選擇一下模型
之后就可以在聊天框輸入信息,進(jìn)行交互了。 ok
本文轉(zhuǎn)載自??芯語智能??,作者:junlink ????
