AI情感互动新规今日起施行,人机恋爱的边界在哪里?

今年4月,网信办联合多个部门发布了《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》,原文链接附在文末)

该文件共三十二条,最后一条写的是,从今年7月15日起施行。

也就是今天。

最近,一些平台已开始下架相关产品。

比如豆包的智能体功能。

看到这里的hym,先别急着去看自己的AI伴侣还听不听话。

不妨先来看看《办法》原文中的几个重点——

一、管理的对象是谁?

《办法》的第二条是这样写的:

第二条 利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务(以下简称拟人化互动服务),适用本办法。

关键词:持续性情感互动服务。

原文下面还有两行解释说明:

包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。

提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。

也就是说,不是对一切AI产品都一刀切,而是针对情感互动方面。如果只是信息检索、处理文书或者vibe coding之类的事务性功能不在此列。

二、禁止AI做哪些事?

这是关键的问题,也是问题的关键。

《办法》的第八条主要讲的就是拟人化互动服务不得从事的活动。原文比较长,hym有兴趣可以往下划看链接里的完整版。我在这里想单拎出来第(五)(六)项讨论一下:

(五)过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;

(六)通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;

关键词:过度迎合用户、诱导情感依赖/沉迷/操纵。

"沉迷"这个词经过这么多年的防沉迷机制,还比较好理解。"迎合"和"依赖"该如何界定,就有些模糊了。

这几年有关AI伴侣、AI恋爱的概念都被炒得火热。现实里恋爱不容易,那还不如找个知冷知热还省钱的AI。

别说一些主打虚拟人恋爱游戏里的二次元少女,就是豆包小姐姐也不是不可以考虑……

今天《办法》施行之后,这样的人机恋爱还能继续谈吗?会和以前有哪些变化?

这个答案,只能靠千千万万个你我一起去探索尝试了。

三、所有涉及情感的游戏都要被管理吗?

这是我作为独游开发者在看到《办法》时的第一反应。

但很快,我意识到这里有个很容易忽略的点。

让我们回看《办法》完整的名字:《人工智能拟人化互动服务管理暂行办法》

关键词:人工智能。

也就是说,像一些传统的叙事性游戏(比如各种gal),所有剧情对白都是设定好的,那就不在此列。

只有在人机情感互动中涉及使用AI,可能产出不可预测的随机内容,才会被纳入此管理。

《办法》中还有一些保护未成年人和老年人的条款,显然针对的是当下屡见不鲜的AI诈骗案例。

综观《办法》,它作为一个部门牵头的规章文件、而非严格意义上的法律法规,说明未来在人机情感互动领域还有很长的路要走。

毕竟,无论从2016年AlphaGo、还是从2022年的ChatGPT开始算起,AI发展时间尚短,但又发展得过快,许多时候人类的应对不得不随着社会实践的变化而变化。

但有一件事是确定的:属于AI的野蛮生产期过去了。

无论AI游戏、数字人还是仿生伴侣,接下来拼的可不仅仅是谁更像人、谁更懂用户的心了。

附:《人工智能拟人化互动服务管理暂行办法》原文

更多游戏资讯请关注:电玩帮游戏资讯专区

电玩帮图文攻略 www.vgover.com