大家好,通过前两篇的学习相信大家都已经成功部署了自己的deepseek,并且都可以进行随时随地的无限制访问了。
今天是最后一篇了,我会带大家将我们的本地模型通过KouriChat项目接入到微信或QQ,来实现群内的ai助理和最懂你的赛博女友。相信对于学习完前两篇的你来说,今天的内容将会很简单。
本栏共分为三篇进行讲解:
第一篇:本地部署deepseek远程调用!构建知识库,接入微信【保姆级教程】——第一篇
第二篇:本地部署deepseek远程调用!构建知识库,接入微信【保姆级教程】——第二篇
第三篇:本地部署deepseek远程调用!构建知识库,接入微信【保姆级教程】——第三篇
为什么将deepseek进行本地部署?
官网的服务会有次数限制,经常会遇到服务繁忙,而在本地部署好后,我们就可以实时即开即用,而且数据都在本地,安全隐私都有保障,且可以问一些你懂得的问题
为什么使用ollama进行本地部署?
ollama可以将大模型部署在本地的服务器上,可以通过HTTP或者WebSocket等接口随时随地的为您提供稳定的服务,并且把API分享给其他软件,实现其他软件的AI调用
ollama的CLI架构更加轻量,资源占用更少,更加适合显卡存不大的用户
ollama会直接帮我们配置好了一些东西,GPU都是不需要我们微调的
第一步,安装Python环境
为了确保兼容性问题,我更推荐安装3.11版本的(虽然项目作者说支持3.11+版本)
我们找到Python官网,Python是个组织,所以官网后缀为org,不要找错了。然后下滑找到下载的版本,我这里安装了3.11.9
下载完成后双击安装,在第一个安装界面我们要勾选上Add Python to PATH,并且不选择直接安装,点击第二种Customize installation自定义安装
第二个安装界面我们要勾选上pip和tcl/tk and IDLE选项,然后点击Next
第三个安装界面需要将第一项Install launcher for all users打勾,并且不建议移动python的安装位置,点击Install安装即可
第二步,安装微信
大家可能觉得安装微信谁不会啊,这都要单独拿出来说,是不是在水文字!
不是的,我测试了好多次后发现,KouriChat目前不兼容4.0.3版本的微信,这里我们需要选择到3.9.12版本的微信进行安装
第三步,获取KouriChat项目
直接浏览器搜索KouriChat,可以直接进KouriChat的Github仓库,也可以直接KouriChat官网,并找到右上角显示的代码仓库就是Github仓库了
现在我们需要将仓库内资源打包下载,点击Code后边的三角号,选择Download Zip
下载好后将压缩包解压到合适位置即可
接下来进入到解压后的文件夹,找到run.bat文件,这个文件可以帮助我们自动安装所需的依赖,安装完成后会自动跳转到配置页面
如果使用自动方式安装失败,我们就需要手动尝试
下面是手动安装的指令
# 安装依赖
pip install -r requirements.txt
# 配置设置
python run_config_web.py
# 启动程序
python run.py
第四步,配置KouriChat
角色设定
我们首先进入角色设定,这里可以创建ai人设,包括任务、角色、外表、经历、性格、台词、喜好(备注不建议修改,修改后容易出现错误)
我们可以借助ai软件来生成你想要的信息,也可以点击获取人设,在档案馆里找到我们需要的人设,并复制到我们新建的ai人设中。
创建或修改完成后一定不要忘记了到页面最下方点击保存,页面提示保存成功就OK了
配置中心
接下来我们进入到配置中心,我是用小号接入ai,用大号给小号发消息
第一个用户列表,我们将大号的用户名复制进去(小号不可以对大号进行备注,否则会搜索不到),点击右边加号就创建成功,这里不建议添加多个用户
第二个API注册地址,我们选择本地ollama
第三个AI模型选择,这里会自动读取出我们电脑内通过ollama安装的模型,选择一个你需要的,下面的API密钥不需要填写
下面的最大token数可以随意选择,建议2000~3000内(看电脑配置),温度可以适当调高,但不要拉满(容易太活跃出乱码)
基础设置完成后我们找到右边高级设置中的Prompt配置,在这里选择我们需要的人设,最后点击保存所有设置(千万不要忘记)
高级设置中还有很多实用的功能可以在使用过程中自行探索
启动bot
我们回到主页,等待主页的依赖检查完毕
全部检测完成后,我们要确保微信是活跃的状态且已经登录到我们的小号,我们就可以点击启动,启动后就不要点击屏幕,机器人会自动控制界面并查找设定的聊天用户
这样我们就成功的实现了通过微信与你本地ai的赛博女友进行聊天💬了
如果出现了错误提示,可以浏览作者提供的常见问题https://kourichat.com/qa/,这里可以找到所有问题的解决方法
第五步,扩展(可以忽略这步)
在KouriChat内的高级设置中我们还可以进行更多设置,这里进行简单介绍
图像识别API配置
这个功能可以使ai能够识别发送的图片(但测试下来识别方式是截图然后给ai识别,对信息量大的图片识别率较低),可以根据需要进行配置
主动消息配置
这个功能可以设置在我们与ai的最后一句话后,如果在设置的时间内,我们没有找ai聊天,那么ai会主动发消息给我们
在安静时间内,ai不会主动发送消息(突然让我想到半夜去恶搞室友)
定时任务配置
设置定时任务,ai会自动执行
到这里本栏就全部完结了,制作共耗时一周,相信聪明的大家都可以跟着教程一步一步走下来,希望可以帮助到大家。
原创不易,作者很需要你的点赞👍➕充电🔋,能关注作者就最好了,作者会持续分享实用的软件技巧,感谢您的支持。
制作不易,点点赞电电牛牛,希望能够帮助各位盒友,当然,给个关注就更好了。
希望大家都可以试试,真的应该人人都能用会用AI了
下面是教程中文件的下载链接,大家看清楚自己的需求下载
Python官网
www。python。org
KouriChat官网
kourichat。com
KouriChat的GitHub库
https://github.com/KouriChat/KouriChat/
KouriChat常见问题
kourichat。com/qa/
文件资源下载
夸克网盘
链接:pan。quark。cn/s/4659f2f5c825
提取码:cp1q
迅雷网盘
链接:pan。xunlei。com/s/VOMr6MoxqTL-SJReqI_QNVL8A1
提取码:3hbg
作者百度网盘没空间了,上传不上去了
更多游戏资讯请关注:电玩帮游戏资讯专区
电玩帮图文攻略 www.vgover.com