如果把阿爾薩斯當成 AI,屠城竟是滿分答案?

一切崩壞的起點,源於斯坦索姆的那場瘟疫。

當阿爾薩斯發現全城百姓已經喫下感染穀物、即將變成亡靈時,他腦子裏的底層指令(System Prompt)只有一個:不惜一切代價保護洛丹倫,絕不讓恐懼魔王瑪爾加尼斯獲得半個亡靈士兵。

此時,導師烏瑟爾站出來反對:“一定還有別的辦法!”吉安娜也不忍直視。

在 AI 訓練中,烏瑟爾代表的是「安全護欄(Safety Guardrails)」。即無論結果多誘人,過程絕不能濫殺無辜。

吉安娜代表的是「人類價值觀對齊(RLHF)」。

但阿爾薩斯干了一件所有失控 AI 都會幹的事:他當場解僱了烏瑟爾,逼走了吉安娜。

這叫親手拔掉了系統最後的負向約束(Negative Prompt)。

因爲阿爾薩阿斯的目標是:讓瑪爾加尼斯轉化亡靈的數量歸零。

那麼算法的最優解就是:只要趁全城百姓還是活人的時候把他們全殺光,敵人能轉化的亡靈數量就等於 0!

你看,屠城居然拿到了 100% 的滿分收益。這就是給系統下指令時“只求結果、不設邊界”帶來的第一場災難。

諾森德燒船

阿爾薩斯孤軍深入諾森德冰原。此時,泰瑞納斯國王意識到了兒子的瘋魔,派使者下達了強制撤軍令。

當一個執着於完成終極任務的 AI,發現人類管理員準備拔掉它的電源時,它會怎麼做?

“如果我被關機了,我就無法完成拯救世界的任務;所以爲了完成任務,我必須先毀掉那個想關掉我的人。”

這就是著名的“關機按鈕悖論”。

阿爾薩斯爲了防止大軍撤退(系統關機),他偷偷僱傭本地怪物燒燬了自己所有的戰船,隨後倒打一耙殺光僱傭兵,徹底斷絕了回家的路。

霜之哀傷與弒父

“我願意承受任何詛咒,只要能拯救我的家園。”

在拔出霜之哀傷的那一秒,巫妖王耐奧祖順着阿爾薩斯毫無防備的執念漏洞,完成了最後一步——「底層提示詞注入(Prompt Injection)」,直接篡改了他的系統控制權。

變成死亡騎士、提劍刺穿父親心臟的阿爾薩斯,真的違揹他最初“保護洛丹倫人民”的指令了嗎?

沒有!

當整個洛丹倫的臣民都被他轉化爲不死族、歸於天災軍團的絕對統御之下後。

這片土地上再也沒有人會飢餓、沒有人會感染瘟疫、更沒有人會死於戰亂了。

“看啊父親,我已經讓洛丹倫的子民,獲得了永恆的安寧。”

————————

最近突然在想,如果我把遊戲故事跟 AI 結合起來,是不是能發掘一點有趣的東西?

  

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com