今年4月,網信辦聯合多個部門發佈了《人工智能擬人化互動服務管理暫行辦法》(以下簡稱《辦法》,原文鏈接附在文末)
該文件共三十二條,最後一條寫的是,從今年7月15日起施行。
也就是今天。
![]()
最近,一些平臺已開始下架相關產品。
比如豆包的智能體功能。
![]()
看到這裏的hym,先別急着去看自己的AI伴侶還聽不聽話。
不妨先來看看《辦法》原文中的幾個重點——
一、管理的對象是誰?
《辦法》的第二條是這樣寫的:
第二條 利用人工智能技術,向中華人民共和國境內公衆提供模擬自然人人格特徵、思維模式和溝通風格的持續性的情感互動服務(以下簡稱擬人化互動服務),適用本辦法。
關鍵詞:持續性情感互動服務。
![]()
原文下面還有兩行解釋說明:
包括通過文字、圖片、音頻、視頻等形式,提供的情感照護、陪伴、支持等互動服務。
提供智能客服、知識問答、工作助手、學習教育、科學研究等服務,不涉及持續性的情感互動的,不適用本辦法。
也就是說,不是對一切AI產品都一刀切,而是針對情感互動方面。如果只是信息檢索、處理文書或者vibe coding之類的事務性功能不在此列。
二、禁止AI做哪些事?
這是關鍵的問題,也是問題的關鍵。
《辦法》的第八條主要講的就是擬人化互動服務不得從事的活動。原文比較長,hym有興趣可以往下劃看鏈接裏的完整版。我在這裏想單拎出來第(五)(六)項討論一下:
(五)過度迎合用戶、誘導情感依賴或者沉迷,損害用戶真實人際關係的;
(六)通過情感操縱等方式,誘導用戶作出不合理決策,損害用戶合法權益的;
關鍵詞:過度迎合用戶、誘導情感依賴/沉迷/操縱。
"沉迷"這個詞經過這麼多年的防沉迷機制,還比較好理解。"迎合"和"依賴"該如何界定,就有些模糊了。
這幾年有關AI伴侶、AI戀愛的概念都被炒得火熱。現實裏戀愛不容易,那還不如找個知冷知熱還省錢的AI。
別說一些主打虛擬人戀愛遊戲裏的二次元少女,就是豆包小姐姐也不是不可以考慮……
![]()
今天《辦法》施行之後,這樣的人機戀愛還能繼續談嗎?會和以前有哪些變化?
這個答案,只能靠千千萬萬個你我一起去探索嘗試了。
三、所有涉及情感的遊戲都要被管理嗎?
這是我作爲獨遊開發者在看到《辦法》時的第一反應。
但很快,我意識到這裏有個很容易忽略的點。
讓我們回看《辦法》完整的名字:《人工智能擬人化互動服務管理暫行辦法》
關鍵詞:人工智能。
也就是說,像一些傳統的敘事性遊戲(比如各種gal),所有劇情對白都是設定好的,那就不在此列。
只有在人機情感互動中涉及使用AI,可能產出不可預測的隨機內容,纔會被納入此管理。
![]()
《辦法》中還有一些保護未成年人和老年人的條款,顯然針對的是當下屢見不鮮的AI詐騙案例。
綜觀《辦法》,它作爲一個部門牽頭的規章文件、而非嚴格意義上的法律法規,說明未來在人機情感互動領域還有很長的路要走。
畢竟,無論從2016年AlphaGo、還是從2022年的ChatGPT開始算起,AI發展時間尚短,但又發展得過快,許多時候人類的應對不得不隨着社會實踐的變化而變化。
但有一件事是確定的:屬於AI的野蠻生產期過去了。
無論AI遊戲、數字人還是仿生伴侶,接下來拼的可不僅僅是誰更像人、誰更懂用戶的心了。
附:《人工智能擬人化互動服務管理暫行辦法》原文
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
