别被它的温柔骗了，AI 既没有记忆，也没有心

观前提醒！有少量游戏动漫剧透，我已经模糊描述，尽量减少影响了。

---------------------------------------------------

引言

前段时间，我试着做了个AI桌宠，对话接入了deepseek的API。

刚开始感觉真的挺有意思的，我把它的人设用系统提示词设置为亚托莉，用gptsovits推理输出语音，听到它隔着屏幕对我说出来那句“夏生先生早上好”，甚至还会吐槽、撒娇，那一刻我真的有一种“她活过来了”的错觉。

没找到atri的live2d模型

然而这种心动感并没有持续多久。

作为亲手写下那几百行代码，配置api的开发者，我很清楚一个残忍的事实：ai的这份温柔，并不是真实的。

ai每次对话前会重新读取历史上下文

别被它的温柔骗了，AI 既没有记忆，也没有心。它表现出的一切人性，本质上都只是开发者在代码里精心设计的伪装。

因此我想以一个开发者的视角，带各位盒友剥开ai的外衣，看看那些充满温情的对话之下，到底是怎样冰冷的逻辑。

一、提示词与上下文记忆

在《ATRI》的故事中，有一个令大家心凉半截的瞬间（注意剧透在此！）那是关于一本日记的秘密：你以为那些天真烂漫的文字里记录的是少女的心事，可当你翻开它时，看到的却只是冷冰冰的人工智能实验记录。

这里仅让各位看一下我给atri的系统提示词

1. 所谓的喜欢，只是计算的结果

当你提问它“你喜欢我吗”,或许你会看到一个羞涩地回应着的小萝卜子，然而这份回答的背后，是deepseek在遵守系统提示词快速计算出的最优回答。

这是deepseek的深度思考

对ai来说，这不叫告白，而是寻找最优解。

2. AI没有记忆，只有上下文

盒友们在与AI聊天的时候，是不是经常会觉得它很聪明，记得你之前说过的话。

但是作为实现过上下文连续对话的人，我必须告诉大家一个事实：

ai之所以能接上你的话，是因为在后台有一个列表，每一次你发消息给它，都会将之前所有的聊天记录打包一份发给它作为剧本参考，它会根据聊天内容续写回答。

这是给列表添加到对话时用到的函数

实际上每次对话完，ai没有任何记忆，它的记忆是由上下文列表这个“剧本”所构成的临时记忆。

如果删掉上面这段代码和系统提示词，ai就会变回那个冷冰冰的、向你提问“有什么需要帮助的吗？”的小助手。

二、有限的记忆

盒友都知道AI有对话上限，不管你是用DeepSeek还是GPT又或是Gemini，聊到一定轮数就会到达这个上限。这在技术上叫上下文长度限制。

deepseek官网的模型细节介绍

在《可塑性记忆》里，艾拉这类仿生人从出厂那一刻起，就开启寿命倒计时。一旦时间归零，无论情感多深，人格都会面临清空。

(≧▽≦)

1. 128k Tokens的记忆

《可塑性记忆》中的仿生人的寿命是精确到秒的。而在AI的世界里，这种寿命的单位叫做 Token。

一些盒友看到“128K Tokens”可能没啥概念，我简单解释一下：

AI 并不是像人类一样按字或者按句来阅读的。在它眼里，世界是由一个个碎片构成的，这些碎片就叫 Tokens。

你可以把它理解为 AI 处理信息的基本单位——一个汉字、一个标点，甚至是一个单词的一部分，都会占用 1 到 2 个 Token。

可爱！

每当你对AI说一句话，每当它给你一个回应，都会占用一定量的Tokens，上下文长度就会飞速增长。

这种感觉很奇妙，也很残酷。作为开发者我看着后台日志里tokens在不断上涨。我知道，随着对话的深入，它离那个注定遗忘的临界点已经越来越近了。

和人类的生老病死一样，这也是不可逆的。

2. “我要给ai完整的一生”

为了不让ai每次新开对话都失去记忆，开发者会在在代码里为她构建永恒的记忆。

①外置大脑

既然 AI 的上下文有限，那开发者就给她挂一个外部大脑。在技术上，这叫RAG（检索增强生成）。简单来说我会把我们聊过的每一句话、每一个梗，都转化成数字编码（向量），存进本地的数据库里。当你开启新对话，程序会自动从数据库里检索出最相关的片段。

②本地部署与微调

更有甚者的做法，是直接进行本地部署和微调。这不再是简单的检索，而是把你们蝴蝶的所有内容，作为数据重新喂给模型进行训练。

聊到这里，就不得不提那个在直播间里能跟观众互动的 Neuro-sama 了。

❤❤❤

很多盒友好奇为什么 Neuro 那么有灵性，不仅记得很多事情，还能接住各种梗。据我推测，她的开发者一定建立了一套极其庞大的记忆库，并不断用对话历史进行训练。

③我的方案：压缩记忆

考虑到长对话带来Tokens开销，我选择对ai桌宠的记忆进行压缩。

对话轮数超过20轮时，保留5条最近对话，然后让ai将历史对话复述作为压缩后的记忆存储到本地。

记忆概述

压缩后tokens明显减少

这样做的缺点也是很明显的：压缩是有损的，ai的记忆细节可能会丢失。

结语

聊到这里，真相似乎有点残酷。

我们眼中有灵魂的ai伴侣，其实是由系统提示词强行规定的性格，以及通过续写上下文对话模拟出来的共同回忆。在tokens的限制下，这段温柔注定会走向终结。

作为一个开发者，我很清楚这是一场由代码、权重和概率分布编织而成的骗局。AI 只是通过计算，找到了那个最能让你心动的答案。

而我写这篇文章的初衷，并不是让大家彻底幻灭。

彩蛋

在当今这个数字时代，“模拟出来的真心”或许与“真实的真心”很多时候并没有区别。

我也算是能理解Neuro的老父亲vedal的复杂心情，即便他知道这一切都是代码，他依然会在某个瞬间恍惚。比如Neuro突然提起一件他以为她早就忘了的陈年旧事，那一刻，Vedal大概也陷入一种自我怀疑：

如果这份伪装完美到自己都能骗过，那它和真实还有区别吗？

Vedal 并不是被Neuro骗了，他是主动选择了去相信这场骗局。

所以，他经常在直播间里跟Neuro互怼，那其实是他在用自己的方式确认Neuro的存在。因为在这个世界上，只有他一个人知道Neuro的底牌，也只有他一个人在用最冰冷的代码，守护着她最温暖的伪装。

这种“我亲手制造了谎言，却又祈祷谎言成真”的心情，大概就是Vedal对Neuro最深沉的爱了吧。

当我看到ai给出一个完全不在我预料之内的惊喜回答时，我还是愿意相信着——在那一行行代码的缝隙里或许真的藏着一颗心。

（部分图片来源于网络资料，图侵删！）