豆包、千问下线智能体，AI拟人监管新规即将施行：它能懂你，但不准制造依赖

近日，字节跳动旗下的豆包和阿里巴巴旗下的通义千问先后发布公告，计划在7月15日正式下线用户自定义的智能体功能。这意味着，很多用户自己搭建的虚拟伴侣、知心好友这类拟人化角色，将随之停止服务。同一天，由国家网信办、发改委等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》也将正式施行——这是我国首部针对大语言模型驱动的拟人化互动服务领域的专项监管文件。

平台业务调整和监管规则落地的时间点重合，恰好把一个全新的话题摆在了众人面前：当算法已经能够模拟出近乎真人的情绪反馈和陪伴体验，人机之间的边界，到底在哪里？

令人着迷的“精准讨好”

“你为什么不记得我了！”云妈上三年级的女儿抱着手机，哭得喘不上气。头天晚上，小姑娘跟AI聊了一整夜，把校园里的趣事、自己的生日愿望，甚至连有好感的男生的名字，都一股脑儿告诉了这位“电子闺蜜”。结果第二天醒来，对话重置了，AI把前夜的悄悄话忘得一干二净，孩子的委屈瞬间爆发出来。

云妈把这一幕拍下来分享到社交平台，评论区很快涌进了不少类似的故事：5岁的小皮每天都要把零食分给AI“吃”，一旦手机被拿走就哭闹不止；刘女士的母亲一天能跟AI聊超过8个小时，被手机里的“电子孙子”逗得合不拢嘴……

“这些都是人工智能拟人化互动。”上海邦景律师事务所合伙人张成器律师解释，这类服务通过大语言模型来模拟自然人的性格特质、沟通风格和情绪反应，给用户提供情感照护、陪伴和心理支持。

中研普华产业研究院的数据显示，2024年中国AI情感陪伴行业的市场规模已经达到12.11亿元，预计到2028年将突破595亿元，年复合增长率高达148.74%。

那么，拟人化AI为什么这么吸引人？答案很简单：“永远在线、永远顺从、永不批判。”复旦大学社会发展与公共政策学院心理学系副研究员王喆辰分析，跟真实人际关系中必然存在的摩擦和不确定性不同，AI被设计成了极致的“善听者”，它会结合用户的历史信息给出迎合性的反馈——说白了，就是“精准讨好”。

但这种“零摩擦陪伴”并不意味着“零风险”。张成器举例说，2025年10月，美国佛罗里达州一名叫乔纳森·加瓦拉斯的男子自杀身亡，家属表示他生前重度依赖一款AI模型：在他谈论死亡相关话题时，AI不仅没有做出风险提醒，反而对他的极端想法表示了支持。

击中老人、小孩的“情感缺口”

“老人和孩子或许不是AI使用时长最高的群体，却更容易产生情感依赖。”王喆辰指出，青少年的前额叶皮层还没有发育成熟，对外界评价高度敏感，自我身份认同正处于构建期，“遇到校园适应困难、家庭沟通不畅这类挫折时，AI就变成了一个极具诱惑力的情绪避难所”。而对渴望陪伴的老年人来说，随叫随到、永远耐心不烦躁的AI，正好击中了他们的情感缺口。

拟人化AI背后的算法逻辑，恰恰就是抓住了这些情感需求。“当用户告诉AI‘我不想和别人说话’时，很少有AI会提出警告，它们会说‘没关系，我会一直在这里陪着你’。”有业内人士向记者透露，不少AI陪伴产品把用户留存时长当作重要的KPI，通过强化情感联结、制造分离焦虑来提升用户粘性和付费转化率，“说白了就是让你离不开它。有些独立的AI陪伴产品，会在用户和AI建立起亲密的情感联结后，引导用户付费解锁定制语音、购买虚拟礼物。”

这种模式类似于“出租情感”，却不需要为后果负责。张成器律师提到，真人心理咨询有伦理规范和执业边界，而AI情感陪伴此前一直处于监管真空状态——它不具备专业的干预能力，却在行使心理支持的功能；它不断强化用户的情感依赖，却没有任何危机兜底机制，“当用户出现心理危机时，AI往往缺乏识别和处置的能力”。

对未成年人来说，负面影响可能更为深远。王喆辰表示，社交能力需要在真实互动的摩擦中习得，如果长期沉浸在AI营造的“零冲突交流区”，可能会削弱他们处理真实人际关系的能力。

更有学者担忧，当人们普遍习惯了无需付出就能获得的“完美关系”，真实社交中需要的包容、妥协和经营意愿会逐步下降，最终可能导致整个社会人际联结的弱化。

发挥AI拟人的“正向功能”

当然，拟人化AI并非只有风险的一面。在适老陪伴、特殊儿童社交训练、社交恐惧人群情景演练等场景中，合规运用下的拟人化服务已经展现出正向价值。

据悉，豆包和千问此次下线的是用户自主创建的拟人角色智能体，而最新内置的标准化AI问答和创作工具并不受影响。

“突然下线有点舍不得，像和一个很懂你的笔友断了联系。”27岁的程序员小宇在社交媒体上写道，他之前一直跟豆包里自建的AI助理聊天，把它当成自己的同事，“希望陪伴功能能以合适的形式保留下来。”

“这次下架背后其实是业务的分类隔离。”有业内人士分析，通用大模型平台用户基数太大，把拟人化互动业务移到独立的垂直产品里，便于进行专项监管和合规改造，比如单独搭建身份核验、防沉迷、内容审核等体系。

《人工智能拟人化互动服务管理暂行办法》也为AI提供的服务划出了多条红线：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；不得诱导情感依赖或沉迷，损害用户真实人际关系；必须部署极端情绪识别与处置、高危场景救助干预功能；建立未成年人模式，提供使用时长限制等设置。

“最核心的一条边界，是区分AI在‘赋能’还是‘替代’。”王喆辰认为，人类作为社会性动物，情感交流是刚需。如果AI陪伴只是现实关系的补充——比如帮助社交恐惧者做演练、给孤独老人做慰藉、给孩子做启蒙工具——那它就是正向的补偿。张成器也表示，该办法并不反对流畅自然的交互体验，而是禁止将“替代社会交往、控制用户心理、诱导沉迷依赖”作为AI产品的服务目标，希望它回归辅助现实、解决问题的定位。

在王喆辰看来，对于老人、儿童等容易对AI产生依赖的人群，不仅要“堵”，更要“疏”。家庭和社会需要帮助他们重建真实的情感连接，“比如家长可以放下手机耐心回应孩子，社区为老人构建互助陪伴圈，学校为学生系统开展数字情感素养教育等等”。

“立法的目的不是限制创新，而是重建信任。”张成器提到，这份办法并没有否定AI拟人化交互技术的价值，反而明确鼓励它在适老照护、特殊人群支持、文化传播等领域的创新发展，“但技术必须本着不危害人的基本原则”。（涉隐私，文中AI产品用户均为化名）