本地體驗DeepSeek-R1模型【LM Studio篇】

DeepSeek-R1本地體驗說明

只有官網上免費使用的完整版和原本的671B的大模型纔是R1的本體, 其他小模型本質上是蒸餾模型,不是DeepSeek-R1模型本體。

一.  安裝LM Studio

訪問LM Studio官網，安裝對應系統版本。

https://lmstudio.ai

https://lmstudio.ai

二.  方法一: 在LM Studio直接下載模型(需科學上網)

打開軟件，將左下角切換爲"Power User"。

點擊右下角的齒輪打開設置，將語言設置爲中文。

點擊"Model Search"，在搜索框中搜索“DeepSeek R1”，選擇適配版本（Windows選GGUF，Mac選MLX）下載。

三.  方法二: 導入下載的模型包(不需要科學上網)

下載模型包

打開LM Studio的模型鏡像網站HF-Mirror。

https://hf-mirror.com/

https://hf-mirror.com/

搜索"DeepSeek R1"並下載所需的模型(Windows選GGUF，Mac選MLX）。

https://hf-mirror.com/models?search=DeepSeek%20R1

常用的DeepSeek-R1模型(GGUF格式):

• 1.5B:  https://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Qwen-1.5B-GGUF

• 8B:  https://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Llama-8B-GGUF

• 32B:  https://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF

推薦配置

導入模型包

打開軟件，將左下角切換爲"Power User"。

打開"我的模型",並點擊"在文件資源管理器中打開"。

點擊"更改"可以更改模型位置, 比如改到D盤。

創建2層文件夾

1. 創建"XXX Publisher"  (XXX可以隨便取)。

2. 在"XXX Publisher"文件夾中創建"XXX Repository"  (XXX可以隨便取)。

3. 把下載好的gguf格式的模型文件移動到"XXX Repository" 文件夾中  (XXX可以隨便取)。

目錄結構

打開LM Studio,此時軟件已自動識別出模型。

打開"聊天"界面, 選擇模型, 設置保持默認, 加載模型。

高級配置: 可以向模型提供背景設定

四. 模型測試