把 DeepSeek 部署在你的電腦上,保姆級教程,建議收藏! 原創(chuàng)
本地電腦部署主要適用于以下5種場景:
第一、設(shè)備性能較強(qiáng),配備獨(dú)立顯卡,能夠支撐高效運(yùn)行。
第二、需要處理敏感數(shù)據(jù),對數(shù)據(jù)安全性有較高要求,以防泄露。
第三、需要與本地工作流程緊密結(jié)合,應(yīng)對頻繁或復(fù)雜的任務(wù)處理。
第四、日常頻繁使用,且 API 調(diào)用成本較高,本地部署有助于降低成本。
第五、希望在開源模型基礎(chǔ)上,進(jìn)行個(gè)性化定制和優(yōu)化。
1、DeepSeek R1 模型部署2步搞定
本部分內(nèi)容將重點(diǎn)闡述如何在本地環(huán)境下利用 Ollama 來部署 DeepSeek R1。后續(xù)章節(jié)將詳細(xì)講解如何將 DeepSeek R1 與 Open-WebUI 系統(tǒng)進(jìn)行集成,讓交互界面更美觀。
第一、安裝 Ollama
請?jiān)L問 Ollama 的官方網(wǎng)站,根據(jù)你的操作系統(tǒng)選擇合適的版本,下載 Ollama應(yīng)用程序并進(jìn)行安裝。
安裝完成后,打開命令行界面并輸入
ollama
命令。如果屏幕上出現(xiàn)以下提示信息,那么恭喜你,Ollama 已經(jīng)成功安裝。
第二、部署 DeepSeek R1 模型
首先,訪問 Ollama 官網(wǎng)并點(diǎn)擊頁面頂部的「模型」(Models)選項(xiàng),接著在列表中找到并點(diǎn)擊「DeepSeek R1」:
在模型詳情頁面,根據(jù)您的計(jì)算機(jī)顯存容量選擇合適的模型版本:
例如,我的電腦運(yùn)行的是 MacOS 系統(tǒng),擁有 32GB 的顯存,因此我選擇了14b 版本的模型。點(diǎn)擊 14b 版本,頁面右側(cè)將顯示下載指令:
將此下載命令復(fù)制并粘貼到命令行中執(zhí)行:
待命令執(zhí)行完畢,您就可以通過命令行與大模型進(jìn)行交互了:
然而,僅通過命令行與大模型交流可能不夠便捷。因此,接下來,我們將介紹與 Open-WebUI 系統(tǒng)進(jìn)行集成,讓交互界面更美觀。以便通過更直觀的圖形界面進(jìn)行操作。
2、安裝 Open-WebUI 交互界面
安裝 Open-WebUI,按照以下4個(gè)步驟來操作:
第一、首先安裝 Docker, 利用 Docker 來管理操作系統(tǒng)界面,這比直接安裝Open-WebUI 更為便捷。訪問 Docker 官方網(wǎng)站(https://www.docker.com/)進(jìn)行下載。
第二、根據(jù)您的電腦操作系統(tǒng),下載 Docker 桌面版并進(jìn)行安裝。
安裝完成后,請重啟電腦以確保 Docker 能夠正常運(yùn)行。電腦重啟后,如果桌面上出現(xiàn)Docker 圖標(biāo),表明安裝成功。
第三、安裝 Open-WebUI
在瀏覽器中搜索 Open-WebUI,進(jìn)入其官網(wǎng),并復(fù)制顯示在紅框中的安裝命令。
按照上述指示,打開命令行工具,粘貼復(fù)制的命令,然后等待安裝完成。
第四、啟動(dòng) Open-WebUI
雙擊桌面上的 Docker 圖標(biāo)以打開應(yīng)用,點(diǎn)擊紅框標(biāo)注的端口,即可啟動(dòng) Open-WebUI。
首次訪問時(shí),您需要注冊一個(gè)賬號。這些信息將會存儲在您的電腦上。
第五、開始對話
在界面的左上角選擇您的 DeepSeek R1 大模型,之后便可開始對話。
請注意,Open-WebUI 的安裝過程在此僅作簡要說明。若遇到錯(cuò)誤,您需要可以借助 DeepSeek R1 大模型協(xié)助解決問題的能力。
本文轉(zhuǎn)載自公眾號玄姐聊AGI 作者:玄姐
