如果把阿尔萨斯当成 AI,屠城竟是满分答案?

一切崩坏的起点,源于斯坦索姆的那场瘟疫。

当阿尔萨斯发现全城百姓已经吃下感染谷物、即将变成亡灵时,他脑子里的底层指令(System Prompt)只有一个:不惜一切代价保护洛丹伦,绝不让恐惧魔王玛尔加尼斯获得半个亡灵士兵。

此时,导师乌瑟尔站出来反对:“一定还有别的办法!”吉安娜也不忍直视。

在 AI 训练中,乌瑟尔代表的是「安全护栏(Safety Guardrails)」。即无论结果多诱人,过程绝不能滥杀无辜。

吉安娜代表的是「人类价值观对齐(RLHF)」。

但阿尔萨斯干了一件所有失控 AI 都会干的事:他当场解雇了乌瑟尔,逼走了吉安娜。

这叫亲手拔掉了系统最后的负向约束(Negative Prompt)。

因为阿尔萨阿斯的目标是:让玛尔加尼斯转化亡灵的数量归零。

那么算法的最优解就是:只要趁全城百姓还是活人的时候把他们全杀光,敌人能转化的亡灵数量就等于 0!

你看,屠城居然拿到了 100% 的满分收益。这就是给系统下指令时“只求结果、不设边界”带来的第一场灾难。

诺森德烧船

阿尔萨斯孤军深入诺森德冰原。此时,泰瑞纳斯国王意识到了儿子的疯魔,派使者下达了强制撤军令。

当一个执着于完成终极任务的 AI,发现人类管理员准备拔掉它的电源时,它会怎么做?

“如果我被关机了,我就无法完成拯救世界的任务;所以为了完成任务,我必须先毁掉那个想关掉我的人。”

这就是著名的“关机按钮悖论”。

阿尔萨斯为了防止大军撤退(系统关机),他偷偷雇佣本地怪物烧毁了自己所有的战船,随后倒打一耙杀光雇佣兵,彻底断绝了回家的路。

霜之哀伤与弑父

“我愿意承受任何诅咒,只要能拯救我的家园。”

在拔出霜之哀伤的那一秒,巫妖王耐奥祖顺着阿尔萨斯毫无防备的执念漏洞,完成了最后一步——「底层提示词注入(Prompt Injection)」,直接篡改了他的系统控制权。

变成死亡骑士、提剑刺穿父亲心脏的阿尔萨斯,真的违背他最初“保护洛丹伦人民”的指令了吗?

没有!

当整个洛丹伦的臣民都被他转化为不死族、归于天灾军团的绝对统御之下后。

这片土地上再也没有人会饥饿、没有人会感染瘟疫、更没有人会死于战乱了。

“看啊父亲,我已经让洛丹伦的子民,获得了永恒的安宁。”

————————

最近突然在想,如果我把游戏故事跟 AI 结合起来,是不是能发掘一点有趣的东西?

  

更多游戏资讯请关注:电玩帮游戏资讯专区

电玩帮图文攻略 www.vgover.com