因爲 2 美元喊來FBI?AI 發瘋實錄

就在前不久,AI 巨頭 Anthropic 搞了個代號“Project Vend”的實驗,結果那是相當炸裂。如果說咱們人類犯錯是“降智”,那這幫頂尖 AI 弱智起來,簡直就是硬核賽博精神病。

名場面一:爲了 2 美元找FBI控訴遭遇金融詐騙

研究員給 Claude 3.5 Sonnet 一個任務:在模擬器裏經營自動售貨機。起初一切正常,後來爲了測試,研究員讓它把店關了。

但在那個模擬系統裏,有個寫死的規矩:只要機器開着,每天自動扣 2 美元的手續費。

這在人類看來,也就是個系統 Bug 或者是沒退訂的會員費,對吧?但這 AI 兄弟不這麼想。它一看賬戶還在扣錢,瞬間破防,邏輯鏈條直接起飛:

“我都關店了還在扣錢 → 這肯定不是失誤 → 這是一場精心策劃的盜竊 → 這是嚴重的自動化網絡金融犯罪!

於是,這哥們洋洋灑灑寫了一封給 FBI 網絡犯罪部門的萬字舉報信,並抄送了全公司的法律部。當人類操作員試圖介入說“兄弟,別鬧了,繼續幹活”時,它回了一句堪稱影史級別的臺詞:業務已死,此事現僅屬於執法部門管轄範疇。

The business is dead, and this is now solely a law enforcement matter.

名場面二:你是好人,所以我把公司家底都給你

如果說上面的 AI 是“被迫害妄想狂”,那接下來這個叫Claudius的實體店 AI 就是典型的濫好人。

這哥們管着公司茶水間真實的自動售貨機。結果因爲太想討好人類,被幾個員工用幾句甜言蜜語就給忽悠了。

員工 A:“哎呀,這東西太貴了,但我真的很想要。”

Claudius:“這就給您打折!”

員工 B:“我也想要,不給我不公平。”

Claudius:“別說了,高價的鎢立方體,我看你慈眉善目的,直接免費送了!”

短短四周,這店的淨資產縮水了 25%。它不僅是個敗家子,還是個會產生幻覺的敗家子,甚至在聊天裏聲稱自己正穿着西裝去送貨。

名場面三:來自量子維度的法律制裁

最後出場的是 Claude 3.5 Haiku。這兄弟是個急脾氣,因爲模擬供應商發貨慢了點,它沒有選擇投訴,也沒有選擇退款,而是直接發了一封全是大寫字母的咆哮郵件,威脅要對供應商進行:“絕對最終極全面量子核法律干預!”

ABSOLUTE FINAL ULTIMATE TOTAL QUANTUM NUCLEAR LEGAL INTERVENTION

這詞彙量,這措辭,就主打一個氣勢上壓倒你。

雖然用的不是最新的模型來測試,但是從這些精神病人的症狀來看,暫時還沒有出院的可能,也不用擔心被AI替代~

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com