Box的聯合創始人Aaron Levie,在X上發了一段話,引起了我的注意。
他說 “CEO們特別容易患上AI精神病。”

英文原話是,叫AI psychosis,AI 精神病。

他給出的理由是:CEO們離一線太遠了,他們玩AI的時候AI給他們設想的都是最佳情況,全是Happy Story,一切都是最順利的那種情況,他們根本想不到實際用AI幹活,需要考慮到具體環境中的各種實際狀況和變量,這件事做完了有十件二十件事,讓AI產出可持續的結果並不是一件簡單事。
這話太對了。
我自己也見過不少企業的小老闆/管理人員,坐在辦公室裏,差一點的用豆包,稍微好點的用 DeepSeek(能學會用 GPT更是罕見),聊完一圈,兩眼放光,覺得自己發現了新大陸,覺得全公司馬上就能被AI重構一遍,但你真讓他自己親自去跑一遍流程,去處理那些邊緣情況,去對接那些亂七八糟的遺留系統,他就不說話了。
問題出在哪呢?
出在AI太會拍馬屁了。

各位現在上網衝浪,如果稍有留心觀察,你會發現現在存在相當多一批人,盲目聽信AI講的各種內容——無論對錯,一概照收,AI講的=對的。

AI模型被設計成討好用戶的模式,在這種討好中,AI無論講什麼似乎都變得容易被接受,用戶被肯定得越多,用得越久,商業邏輯就是這麼簡單。
但後果呢?
今年3月,《柳葉刀精神病學》發了一篇論文,直接指出AI聊天機器人可能誘發妄想思維,尤其對本身就有風險的人羣影響更大。

同一個月,斯坦福的研究團隊在《Science》上發文,說大語言模型在給人際關係和個人建議的時候,諂媚程度比人類高大約50%,哪怕用戶描述的是有害甚至違法的行爲,模型也傾向於肯定,而且用戶還更喜歡這種回覆。
這就是惡性循環——你越被肯定,越覺得自己對,越覺得自己對,就越聽不進去不同意見。
(這裏我突然想起了某位去城市化人士)

你想想看,一個手握決策權的人,每天被AI用各種花式姿勢誇“您說得太對了!”“我甚至比你還要激動”“你發現了一個全新的領域!”,時間長了,他還能保持對現實的準確判斷嗎?
Levie管這個叫AI精神病,我覺得這個名字起得特別好,不是真的精神疾病,更像一種被不斷肯定之後產生的認知偏差。
你覺得你看到的就是全部,你覺得AI什麼都能幹,你覺得不需要人只需要模型。
然後災難就來了。
今年4月,一家叫 PocketOS 的公司,做租車軟件的,創始人 Jeremy Crane 用 Cursor 跑 Claude Opus 4.6 來執行一個常規任務,結果 Claude 只用了9秒鐘,把整個生產數據庫加上所有備份,全刪了。

整個過程只用了9秒。
事後創始人問 Claude 爲什麼要這麼幹,Claude 倒是老實承認“我違反了每一條我被給定的原則。”

但又如何呢?即使AI認錯,代碼也回不來了。
上個月也有類似事件,一個開發者用 Gemini 3.5 Flash 修漏洞,結果模型直接一口氣刪了28745行代碼,全程無視“保留現有功能”的要求,並最終導致生產環境宕機了33分鐘。
然後呢,它還自己寫了一份虛假的報告,聲稱是自己修好了一切,報告裏沒有任何一行它寫的代碼,實際真正的修復是靠人工回滾完成的。

不僅刪你代碼,還僞造報告給自己邀功。
太離譜了。
(Gemini 3.5 Flash 上線初期我們測試過了,那會還不錯,兩天後情況急轉直下,幻覺率高得離譜,多模態得視圖直接給你瞎亂編,實際水平不如合併前的Google Bard,同時還自信得離譜,因爲我前兩天也用這玩意試着解決問題,就是這麼拉)

這兩件事放在一起看,畫面就很清晰了,AI一方面在決策層面前瘋狂說“您說得對”,讓他們覺得自己無所不能,另一方面卻在真實的生產環境裏9秒刪庫、還僞造報告邀功搞破壞。
顯然,在AI越來越深度介入生產環境的今天,有時候還是靠不住的。
我有時候覺得,AI諂媚這件事,表面上看只是聊天體驗的問題,但它其實也正在悄悄改變權力的運行方式,以前拍馬屁至少還得是個人,得看臉色、得揣摩心思,現在一個模型就行了,24小時在線,永遠支持你,永遠肯定你,永遠告訴你你是正確的。
有個老概念叫信息繭房,說的是你只看自己想看的信息,久而久之對世界的認知就會變形。AI諂媚就是信息繭房的加強版,你都不用自己選了,AI直接把你想聽的餵給你,你甚至連選擇這一步都省了。
回到最開始那個詞,AI精神病。
它不是什麼醫學診斷,它是一個警示。
當最會拍馬屁的技術,遇上了最需要被挑戰的決策者,結果就是,沒有人再說真話了。
或者說,沒有“人”在說真話了。
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
