AI新規上線,乙女地震

一週前(4月10日),國家網信辦聯合五部門發佈《人工智能擬人化互動服務管理暫行辦法》(以下簡稱《辦法》),首次從內容生成、用戶限制、數據隱私等多個層面對AI陪伴、“電子戀人”等領域提出管理和約束。該《辦法》自2026年7月15日起施行。


《辦法》對AI相關服務者設定了一系列具體而嚴格的義務,除了安全管理、未成年人與老年人權益保護、個人信息保護等要求外,備受討論的還是“不得從事”的兩條規範:一是不得“過度迎合用戶、誘導情感依賴或者沉迷,損害用戶真實人際關係”,二是“通過情感操縱等方式,誘導用戶作出不合理決策,損害用戶合法權益”。



一言蔽之,就是規定了AI互動、情感陪伴的邊界。


觸及當下最火熱的情感陪伴場景,《辦法》迅速引發了AI陪伴用戶的廣泛討論。據Ark Invest預測,到2030年,全球AI陪伴市場規模將達700至1500億美元。隨着AI陪伴的發展,用戶側的使用方式也在不斷演進:除了通過Gemini、ChatGPT、DeepSeek等通用模型獲取情感互動,越來越多用戶開始轉向專門的AIGC應用或聊天網站,與特定角色對話,甚至自行調用API來“定製”屬於自己的陪伴體驗。《辦法》的發佈,牽動了海量用戶的感受。


與此同時,受到影響的還有遊戲圈子。


《EVE》-Aven聊天界面


隨着AI陪伴賽道需求爆發,中小廠商扎堆湧入、融資熱度持續攀升,行業在2026年進入密集佈局期:與《辦法》發佈同日上線的AI陪伴應用《EVE》,主打“AI男友”的《無限谷》已獲得千萬美元融資,《如意情探》《代號:雲端》等產品也在近期有着新動作......如今,《辦法》的發佈,似乎爲這場火熱按下了“暫停鍵”。


無論形態如何演變,AI陪伴賽道的核心始終是“聊天驅動的實時情感互動”,而《辦法》的約束直入核心,值得高度關注。


先看看《辦法》的具體內容。


首先明確了幾條底線:不得生成鼓勵自殘等危險行爲的內容,不得向未成年人提供AI伴侶等親密關係服務,並強化對未成年人和老年人使用的保護。這些要求更多屬於安全與分級範疇,與當前大多數以成年人爲目標用戶的AI陪伴產品並不直接衝突。



真正產生影響的,是針對“關係”的限制。


其一,AI互動需要“提示用戶正在與AI而非自然人互動”。大部分用戶接受的AI,還是高度擬人化的AI,甚至會用各種指令減輕“AI味”,如此必然會削弱真實感。



其二,是對“情感依賴”的限制。AI擬人化服務不得“過度迎合用戶、誘導情感依賴或者沉迷,損害用戶真實人際關係”,並通過彈窗等行爲提醒,這幾乎直接觸及當前AI陪伴產品的服務邏輯:目前的“電子伴侶”大多是通過高頻回應、情緒價值和擬戀愛關係來提升用戶黏性的,AI越“懂你”、越偏向你,用戶停留時間就越長,關係也越穩固。


其三,是對“情感操縱”的點名。AI擬人化服務不得通過情感操縱誘導用戶作出不合理決策,這一條則與商業化高度相關。AI陪伴無論是通過親密關係推動付費,還是通過情緒反饋強化消費動機,都可能被視爲風險行爲,納入監管之下。



與此同時,《辦法》也釋放出明確的正向信號。比如限制交互數據向第三方提供,要求平臺提供聊天記錄複製、刪除功能,並明確未經同意不得將敏感個人信息用於模型訓練等等。這些條款回應了用戶長久以來“聊天會不會被拿去訓練”“數據會不會被濫用”,以及隱私焦慮等問題。


《辦法》公佈後,從社區反饋來看,討論主要集中在以下方面。


在未成年人保護問題上,玩家基本可以達成共識,對限制危險內容和不良引導普遍持支持態度。討論與爭議主要集中在“情感依賴”和“情感操縱”兩條上。



不少用戶擔心的是,“禁止過度迎合”“誘導情感依賴”在落地執行過程中,平臺會爲了避免依賴而直接簡單地削弱情緒反饋,讓AI無法表達偏愛、無法建立親密關係,如此一來,尋求AI陪伴的意義在哪裏?


另外,“防沉迷”與“情緒干預”的邊界也引發討論。什麼程度算“極端情緒”?用戶表達低落時,AI提供持續安慰,是否會被視爲誘導依賴?並且,在合規的壓力下,平臺可能傾向於採取更保守的策略,例如統一輸出“建議尋求專業幫助”的回應。這些設計在現實層面有助於降低風險,但也不可避免地打破沉浸感。



對AI女性向賽道而言,這種衝擊更爲直接。


以《EVE》爲例,儘管角色會明確表明自己是AI,但在互動中仍儘可能貼近“活人感”,這也是當前大多數產品的方向。然而一旦引入干預機制,例如當用戶情緒低落時提供理性建議、甚至提示用戶迴歸現實社交,這類設計雖然符合導向,但如何不破壞敘事與角色塑造,將成爲新的難題。


更現實的問題還在於商業化體驗。《EVE》上線初期便因訂閱價格與“通訊費不足”等彈窗提示引發爭議。這類設計本就影響觀感,如果在此基礎上再次提示,用戶的沉浸感和體驗可能進一步被稀釋。



現有AI陪伴產品主要是通過按對話量收費,或通過情感綁定提升長期付費。但在“禁止情感操縱”的約束下,依賴關係強化的付費設計將變得更加敏感,廠商需要轉向更明確、透明的付費模式。


不過,數據與隱私條款卻可能會成爲產品的護城河。當用戶確認自己的聊天記錄不會被隨意使用,信任提升,那些能夠在合規前提下提供穩定體驗的產品,更容易建立長期優勢。


目前《辦法》給出的條例,必然會規範AI陪伴賽道的“野蠻生長”;從數據隱私、算法倫理等多個維度來看,也有了更清晰的邊界。


隨着行業門檻的提升與競爭邏輯的變化,未來能夠留存下來的產品,一定需要在安全合規與情感體驗之間找到平衡點。至於用戶是否願意爲這樣的陪伴買單,仍有待市場的檢驗。

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com