一切崩壞的起點,源於斯坦索姆的那場瘟疫。
![]()
當阿爾薩斯發現全城百姓已經喫下感染穀物、即將變成亡靈時,他腦子裏的底層指令(System Prompt)只有一個:不惜一切代價保護洛丹倫,絕不讓恐懼魔王瑪爾加尼斯獲得半個亡靈士兵。
此時,導師烏瑟爾站出來反對:“一定還有別的辦法!”吉安娜也不忍直視。
在 AI 訓練中,烏瑟爾代表的是「安全護欄(Safety Guardrails)」。即無論結果多誘人,過程絕不能濫殺無辜。
吉安娜代表的是「人類價值觀對齊(RLHF)」。
但阿爾薩斯干了一件所有失控 AI 都會幹的事:他當場解僱了烏瑟爾,逼走了吉安娜。
這叫親手拔掉了系統最後的負向約束(Negative Prompt)。
![]()
因爲阿爾薩阿斯的目標是:讓瑪爾加尼斯轉化亡靈的數量歸零。
那麼算法的最優解就是:只要趁全城百姓還是活人的時候把他們全殺光,敵人能轉化的亡靈數量就等於 0!
你看,屠城居然拿到了 100% 的滿分收益。這就是給系統下指令時“只求結果、不設邊界”帶來的第一場災難。
諾森德燒船
阿爾薩斯孤軍深入諾森德冰原。此時,泰瑞納斯國王意識到了兒子的瘋魔,派使者下達了強制撤軍令。
![]()
當一個執着於完成終極任務的 AI,發現人類管理員準備拔掉它的電源時,它會怎麼做?
“如果我被關機了,我就無法完成拯救世界的任務;所以爲了完成任務,我必須先毀掉那個想關掉我的人。”
這就是著名的“關機按鈕悖論”。
阿爾薩斯爲了防止大軍撤退(系統關機),他偷偷僱傭本地怪物燒燬了自己所有的戰船,隨後倒打一耙殺光僱傭兵,徹底斷絕了回家的路。
霜之哀傷與弒父
“我願意承受任何詛咒,只要能拯救我的家園。”
在拔出霜之哀傷的那一秒,巫妖王耐奧祖順着阿爾薩斯毫無防備的執念漏洞,完成了最後一步——「底層提示詞注入(Prompt Injection)」,直接篡改了他的系統控制權。
變成死亡騎士、提劍刺穿父親心臟的阿爾薩斯,真的違揹他最初“保護洛丹倫人民”的指令了嗎?
沒有!
當整個洛丹倫的臣民都被他轉化爲不死族、歸於天災軍團的絕對統御之下後。
這片土地上再也沒有人會飢餓、沒有人會感染瘟疫、更沒有人會死於戰亂了。
“看啊父親,我已經讓洛丹倫的子民,獲得了永恆的安寧。”
————————
最近突然在想,如果我把遊戲故事跟 AI 結合起來,是不是能發掘一點有趣的東西?
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
