通過LM Studio本地私有化部署DeepSeek-R1模型,無網(wǎng)絡(luò)也能用
?打開LM Studio官網(wǎng)????
選擇適合自己的操作系統(tǒng),下載LM Studio安裝包
成功后運(yùn)行LM Studio,頂部文本框輸入deepseek,點(diǎn)擊搜索模型
在搜索結(jié)果中選擇7B參數(shù)模型,
如上圖右側(cè)提示“No result found”說明官方未直接提供deepseek gguf模型文件。
這時(shí),我們需要自己到別處下載ds gguf文件,繼續(xù)如下操作:
?打開魔搭官網(wǎng),????
進(jìn)入模型庫,搜索deepseek-r1
選擇deepseek-r1 gguf模型文件,根據(jù)你自己電腦的配置情況,選擇大小合適的參數(shù)模型。(我選擇了70億參數(shù)的小模型)
點(diǎn)擊下載模型文件,按提示命令操作(此步需要程序員操作)
按右側(cè)窗口提示,選擇正確的下載方式,這里需要下載獨(dú)立的gguf文件保存到指定的文件路徑。
Win+R 運(yùn)行cmd 命令終端,請先確認(rèn)pip(需要安裝python環(huán)境)是否最新版本,否則先更新pip。
操作①,安裝modelscope:pip install modelscope
安裝過程中可能失敗,提示:系統(tǒng)沒有啟用Windows長路徑支持
win+R 運(yùn)行regedit命令,打開系統(tǒng)注冊表
找到以下位置:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem,找到LongPathsEnabled的條目,雙擊打開
“數(shù)值數(shù)據(jù)”文本框值改為1,確定保存即可。
再次執(zhí)行①,成功!
執(zhí)行②,通過modelscope命令下載gguf文件到指定目錄。
可能遇到modul錯誤:
解決辦法是:pip install setuptools -U
成功后繼續(xù)執(zhí)行②,安裝進(jìn)行中
模型GGUF文件下載100%完成!
打開LM Studio客戶端,我的模型》模型目錄》更改,設(shè)置路徑地址為gguf文件所在目錄的上二級目錄文件夾。
回到聊天對話框,選擇最新的模型。
從此刻開始你和DS AI暢聊吧~(無網(wǎng)也能聊,數(shù)據(jù)又安全)
