本地部署deepseek遠程調用!構建知識庫,接入微信【保姆級教程】

大家好,通過前兩篇的學習相信大家都已經成功部署了自己的deepseek,並且都可以進行隨時隨地的無限制訪問了。

今天是最後一篇了,我會帶大家將我們的本地模型通過KouriChat項目接入到微信或QQ,來實現羣內的ai助理和最懂你的賽博女友。相信對於學習完前兩篇的你來說,今天的內容將會很簡單。

本欄共分爲三篇進行講解:

第一篇:本地部署deepseek遠程調用!構建知識庫,接入微信【保姆級教程】——第一篇

第二篇:本地部署deepseek遠程調用!構建知識庫,接入微信【保姆級教程】——第二篇

第三篇:本地部署deepseek遠程調用!構建知識庫,接入微信【保姆級教程】——第三篇

爲什麼將deepseek進行本地部署?

官網的服務會有次數限制,經常會遇到服務繁忙,而在本地部署好後,我們就可以實時即開即用,而且數據都在本地,安全隱私都有保障,且可以問一些你懂得的問題

爲什麼使用ollama進行本地部署?

ollama可以將大模型部署在本地的服務器上,可以通過HTTP或者WebSocket等接口隨時隨地的爲您提供穩定的服務,並且把API分享給其他軟件,實現其他軟件的AI調用

ollama的CLI架構更加輕量,資源佔用更少,更加適合顯卡存不大的用戶

ollama會直接幫我們配置好了一些東西,GPU都是不需要我們微調的

第一步,安裝Python環境

爲了確保兼容性問題,我更推薦安裝3.11版本的(雖然項目作者說支持3.11+版本)

我們找到Python官網,Python是個組織,所以官網後綴爲org,不要找錯了。然後下滑找到下載的版本,我這裏安裝了3.11.9

下載完成後雙擊安裝,在第一個安裝界面我們要勾選上Add Python to PATH,並且不選擇直接安裝,點擊第二種Customize installation自定義安裝

第二個安裝界面我們要勾選上pip和tcl/tk and IDLE選項,然後點擊Next

第三個安裝界面需要將第一項Install launcher for all users打勾,並且不建議移動python的安裝位置,點擊Install安裝即可

第二步,安裝微信

大家可能覺得安裝微信誰不會啊,這都要單獨拿出來說,是不是在水文字!

不是的,我測試了好多次後發現,KouriChat目前不兼容4.0.3版本的微信,這裏我們需要選擇到3.9.12版本的微信進行安裝

第三步,獲取KouriChat項目

直接瀏覽器搜索KouriChat,可以直接進KouriChat的Github倉庫,也可以直接KouriChat官網,並找到右上角顯示的代碼倉庫就是Github倉庫了

現在我們需要將倉庫內資源打包下載,點擊Code後邊的三角號,選擇Download Zip

下載好後將壓縮包解壓到合適位置即可

接下來進入到解壓後的文件夾,找到run.bat文件,這個文件可以幫助我們自動安裝所需的依賴,安裝完成後會自動跳轉到配置頁面

如果使用自動方式安裝失敗,我們就需要手動嘗試

下面是手動安裝的指令

# 安裝依賴

pip install -r requirements.txt

# 配置設置

python run_config_web.py

# 啓動程序

python run.py

第四步,配置KouriChat

角色設定

我們首先進入角色設定,這裏可以創建ai人設,包括任務、角色、外表、經歷、性格、臺詞、喜好(備註不建議修改,修改後容易出現錯誤)

我們可以藉助ai軟件來生成你想要的信息,也可以點擊獲取人設,在檔案館裏找到我們需要的人設,並複製到我們新建的ai人設中。

創建或修改完成後一定不要忘記了到頁面最下方點擊保存,頁面提示保存成功就OK了

配置中心

接下來我們進入到配置中心,我是用小號接入ai,用大號給小號發消息

第一個用戶列表,我們將大號的用戶名複製進去(小號不可以對大號進行備註,否則會搜索不到),點擊右邊加號就創建成功,這裏不建議添加多個用戶

第二個API註冊地址,我們選擇本地ollama

第三個AI模型選擇,這裏會自動讀取出我們電腦內通過ollama安裝的模型,選擇一個你需要的,下面的API密鑰不需要填寫

下面的最大token數可以隨意選擇,建議2000~3000內(看電腦配置),溫度可以適當調高,但不要拉滿(容易太活躍出亂碼)

基礎設置完成後我們找到右邊高級設置中的Prompt配置,在這裏選擇我們需要的人設,最後點擊保存所有設置(千萬不要忘記)

高級設置中還有很多實用的功能可以在使用過程中自行探索

啓動bot

我們回到主頁,等待主頁的依賴檢查完畢

全部檢測完成後,我們要確保微信是活躍的狀態且已經登錄到我們的小號,我們就可以點擊啓動,啓動後就不要點擊屏幕,機器人會自動控制界面並查找設定的聊天用戶

這樣我們就成功的實現了通過微信與你本地ai的賽博女友進行聊天💬了

如果出現了錯誤提示,可以瀏覽作者提供的常見問題https://kourichat.com/qa/,這裏可以找到所有問題的解決方法

第五步,擴展(可以忽略這步)

在KouriChat內的高級設置中我們還可以進行更多設置,這裏進行簡單介紹

圖像識別API配置

這個功能可以使ai能夠識別發送的圖片(但測試下來識別方式是截圖然後給ai識別,對信息量大的圖片識別率較低),可以根據需要進行配置

主動消息配置

這個功能可以設置在我們與ai的最後一句話後,如果在設置的時間內,我們沒有找ai聊天,那麼ai會主動發消息給我們

在安靜時間內,ai不會主動發送消息(突然讓我想到半夜去惡搞室友)

定時任務配置

設置定時任務,ai會自動執行

到這裏本欄就全部完結了,製作共耗時一週,相信聰明的大家都可以跟着教程一步一步走下來,希望可以幫助到大家。

原創不易,作者很需要你的點贊👍➕充電🔋,能關注作者就最好了,作者會持續分享實用的軟件技巧,感謝您的支持。

製作不易,點點贊電電牛牛,希望能夠幫助各位盒友,當然,給個關注就更好了。

希望大家都可以試試,真的應該人人都能用會用AI了

下面是教程中文件的下載鏈接,大家看清楚自己的需求下載

Python官網

www。python。org

KouriChat官網

kourichat。com

KouriChat的GitHub庫

https://github.com/KouriChat/KouriChat/

KouriChat常見問題

kourichat。com/qa/

文件資源下載

夸克網盤

鏈接:pan。quark。cn/s/4659f2f5c825

提取碼:cp1q

迅雷網盤

鏈接:pan。xunlei。com/s/VOMr6MoxqTL-SJReqI_QNVL8A1

提取碼:3hbg

作者百度網盤沒空間了,上傳不上去了

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com