手把手教你在本地部署 DeepSeek R1,并集成到 Dify 中,建議收藏! 原創(chuàng)
本教程將一步步指導(dǎo)你如何在本地環(huán)境中安裝 DeepSeek R1,并將其融合進(jìn) Dify 中,確保你的工作的效率得到實(shí)質(zhì)性的提升!
1、DeepSeek R1 模型部署
本部分內(nèi)容將重點(diǎn)闡述如何在本地環(huán)境下利用 Ollama 來(lái)部署 DeepSeek R1。后續(xù)章節(jié)將詳細(xì)講解如何將 DeepSeek R1 與 Dify 系統(tǒng)進(jìn)行集成。
第一、安裝 Ollama
請(qǐng)?jiān)L問(wèn) Ollama 的官方網(wǎng)站,根據(jù)你的操作系統(tǒng)選擇合適的版本,下載 Ollama應(yīng)用程序并進(jìn)行安裝:
安裝完成后,打開命令行界面并輸入
ollama
命令。如果屏幕上出現(xiàn)以下提示信息,那么恭喜你,Ollama 已經(jīng)成功安裝。
第二、部署 DeepSeek R1 模型
首先,訪問(wèn) Ollama 官網(wǎng)并點(diǎn)擊頁(yè)面頂部的「模型」(Models)選項(xiàng),接著在列表中找到并點(diǎn)擊「DeepSeek R1」:
在模型詳情頁(yè)面,根據(jù)您的計(jì)算機(jī)顯存容量選擇合適的模型版本:
例如,我的電腦運(yùn)行的是 MacOS 系統(tǒng),擁有 32GB 的顯存,因此我選擇了14b 版本的模型。點(diǎn)擊 14b 版本,頁(yè)面右側(cè)將顯示下載指令:
將此下載命令復(fù)制并粘貼到命令行中執(zhí)行:
待命令執(zhí)行完畢,您就可以通過(guò)命令行與大模型進(jìn)行交互了:
然而,僅通過(guò)命令行與大模型交流可能不夠便捷。因此,接下來(lái),我們將介紹如何將模型集成到 Dify 中,以便通過(guò)更直觀的圖形界面進(jìn)行操作。
2、在 Dify 中配置 DeepSeek R1 模型
訪問(wèn)已部署的 Dify 系統(tǒng),點(diǎn)擊頁(yè)面右上角的個(gè)人頭像,隨后選擇「設(shè)置」選項(xiàng):
在「模型供應(yīng)商」配置頁(yè)面,選擇「Ollama」作為供應(yīng)商:
在「模型名稱」一欄輸入:deepseek-r1:14b。對(duì)于「基礎(chǔ) URL」,如果 ollama 和 Dify 在同一臺(tái)機(jī)器上部署,并且 Dify 是通過(guò) Docker 容器部署的,那么應(yīng)填寫http://host.docker.internal:11434;若非此情況,請(qǐng)?zhí)顚慼ttp://ollama 的服務(wù)地址:11434。完成填寫后,點(diǎn)擊「保存」按鈕。
3、創(chuàng)建應(yīng)用
接下來(lái),我將指導(dǎo)你如何在 Dify 中創(chuàng)建一個(gè)應(yīng)用,以便利用 DeepSeek R1 模型。
首先,在 Dify 的「工作室」頁(yè)面中,點(diǎn)擊「創(chuàng)建空白應(yīng)用」的按鈕:
在出現(xiàn)的對(duì)話框中,選擇「聊天助手」類型,輸入「應(yīng)用名稱」和「描述」,然后點(diǎn)擊「創(chuàng)建」:
應(yīng)用創(chuàng)建成功后,點(diǎn)擊頁(yè)面右上角,選擇您已經(jīng)添加的 DeepSeek R1 模型:
接下來(lái),可以嘗試提出問(wèn)題進(jìn)行測(cè)試:
請(qǐng)注意,DeepSeek R1是一個(gè)推理模型,它不支持函數(shù)調(diào)用。這意味著它不能被集成到 Dify 的智能體中。不過(guò),DeepSeek V3 模型則可以進(jìn)行集成。
4、總結(jié)
本文向您展示了目前廣受關(guān)注的 DeepSeek R1 模型,并指導(dǎo)你如何在本地環(huán)境下進(jìn)行部署,以及如何將其融合至 Dify 平臺(tái)。感興趣的朋友不妨親自嘗試一番。
本文轉(zhuǎn)載自公眾號(hào)玄姐聊AGI 作者:玄姐
