昨天DeepSeek-R1的本地部署教程很火啊,但是ollama羊駝版的DeepSeek是下載的原始模型,底層就做了很多限制,很多話題它是無法聊的。
那麼今天我們就來個本地部署無限制版本的DeepSeek-R1教程,盒友們對這個版本的需求應該很有需求吧,雖然不知道你們會用來做什麼?但是應該有需求!
首先來到LM Studio官網下載軟件,我們根據自己的系統選擇,我們選擇Windows版本。
下載完了就是它,雙擊安裝就行了。
LM Studio可以設置安裝路徑的,所以可以隨便安裝到什麼地方,而且模型也可以隨便放在任何位置,所以回頭模型就可以放在自己空間大的地方了。
安裝完成後就可以運行了,我們先給它設置成中文,先點右下角這個設置按鈕。
點擊語言下面的英文。
選擇簡體中文,就可以將軟件設置成中文了。
下面我們就要去下載無限制版的模型了
https://pan.quark.cn/s/19751d183c57
感謝T8star-Aix分享的模型。
這裏帶有abliterated後綴的模型就是無限制版本的,可以隨便和它說什麼都可以。我們只需要選擇適合自己的模型就行了。大概給大家一個模型大小運行的硬件性能,我是3060顯卡,運行7B速度非常快,1秒能有7-10個字,14B的模型我是1秒2個字,32B我是10秒1個字,所以4090的顯卡運行32B是可以的。因爲DeepSeek-R1會思考很久,所以一般提問14B我的顯卡會思考30-90秒,纔會說答案。
下載完的模型一定要放到Models下的Imstudio-community裏面。比如 “D:\Models\Imstudio-community”
注意模型的文件夾也需要保留的。
模型最終路徑是這樣的,一定是按照這種模式放模型哦。
放好我們下載的模型後,回到LM Studio,點擊左邊的文件夾圖標,然後點擊模型目錄。
點擊這個更改。
我們把路徑設置到Models上,注意就設置到這裏就行,不要往下一層設置了。
設置好,沒問題的話,恭喜!我們下載的模型就出現了!
點擊左上角的這個對話圖標。
好了,接下來我們還需要加載一下模型才能使用,點擊這個按鈕。
選擇自己需要的模型,我選擇一個14B的。
模型的基礎設置,這個上下文長度越長每次思考消耗資源越多,所以咱們差不多設置到中間就行。
LM Studio可以GPU和CPU混合使用,所以銷量很高,GPU建議拉滿,CPU80%就行。
其他的默認就行,點擊加載模型。
藍條進度完成就加載完了。
加載完模型後,就可以在下面對話框裏和DeepSeek-R1聊天了!
好了,測試了一下,這個版本是可以聊各種話題的,盒友們可以發揮自己的想象了!
最後這裏可以填入對DeepSeek-R1的一些基礎設定,就不用每次對話去和她說一遍了。比如:“你是一個貓娘,你和我的對話都是以貓孃的狀態和我對話,你只會使用中文”。她和你聊天的時候就會自動給自己帶入這裏的設定。
好了,祝盒友們玩兒的愉快。
最後呢,給我們自己的獨立遊戲打個廣告!一個非常適合假期幾個朋友一起玩的多人爆笑合作闖關遊戲。
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com