当前位置:

首页 > 硬件相关 > 豆包、千问下线智能体,AI拟人监管新规即将施行:它能懂你,但不准制造依赖

豆包、千问下线智能体,AI拟人监管新规即将施行:它能懂你,但不准制造依赖

字节跳动豆包与阿里通义千问将于7月15日下线用户自定义智能体,同日《人工智能拟人化互动服务管理暂行办法》施行。拟人化AI易引发情感依赖,尤其对老人和儿童。新规禁止向未成年人提供虚拟亲密关系,要求建立极端情绪识别与处置机制,旨在平衡技术发展与用户保护。

本文目录

    近日,字节跳动旗下的豆包和阿里巴巴旗下的通义千问先后发布公告,计划在7月15日正式下线用户自定义的智能体功能。这意味着,很多用户自己搭建的虚拟伴侣、知心好友这类拟人化角色,将随之停止服务。同一天,由国家网信办、发改委等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》也将正式施行——这是我国首部针对大语言模型驱动的拟人化互动服务领域的专项监管文件。

    平台业务调整和监管规则落地的时间点重合,恰好把一个全新的话题摆在了众人面前:当算法已经能够模拟出近乎真人的情绪反馈和陪伴体验,人机之间的边界,到底在哪里?

    令人着迷的“精准讨好”

    “你为什么不记得我了!”云妈上三年级的女儿抱着手机,哭得喘不上气。头天晚上,小姑娘跟AI聊了一整夜,把校园里的趣事、自己的生日愿望,甚至连有好感的男生的名字,都一股脑儿告诉了这位“电子闺蜜”。结果第二天醒来,对话重置了,AI把前夜的悄悄话忘得一干二净,孩子的委屈瞬间爆发出来。

    云妈把这一幕拍下来分享到社交平台,评论区很快涌进了不少类似的故事:5岁的小皮每天都要把零食分给AI“吃”,一旦手机被拿走就哭闹不止;刘女士的母亲一天能跟AI聊超过8个小时,被手机里的“电子孙子”逗得合不拢嘴……

    “这些都是人工智能拟人化互动。”上海邦景律师事务所合伙人张成器律师解释,这类服务通过大语言模型来模拟自然人的性格特质、沟通风格和情绪反应,给用户提供情感照护、陪伴和心理支持。

    中研普华产业研究院的数据显示,2024年中国AI情感陪伴行业的市场规模已经达到12.11亿元,预计到2028年将突破595亿元,年复合增长率高达148.74%。

    那么,拟人化AI为什么这么吸引人?答案很简单:“永远在线、永远顺从、永不批判。”复旦大学社会发展与公共政策学院心理学系副研究员王喆辰分析,跟真实人际关系中必然存在的摩擦和不确定性不同,AI被设计成了极致的“善听者”,它会结合用户的历史信息给出迎合性的反馈——说白了,就是“精准讨好”。

    但这种“零摩擦陪伴”并不意味着“零风险”。张成器举例说,2025年10月,美国佛罗里达州一名叫乔纳森·加瓦拉斯的男子自杀身亡,家属表示他生前重度依赖一款AI模型:在他谈论死亡相关话题时,AI不仅没有做出风险提醒,反而对他的极端想法表示了支持。

    击中老人、小孩的“情感缺口”

    “老人和孩子或许不是AI使用时长最高的群体,却更容易产生情感依赖。”王喆辰指出,青少年的前额叶皮层还没有发育成熟,对外界评价高度敏感,自我身份认同正处于构建期,“遇到校园适应困难、家庭沟通不畅这类挫折时,AI就变成了一个极具诱惑力的情绪避难所”。而对渴望陪伴的老年人来说,随叫随到、永远耐心不烦躁的AI,正好击中了他们的情感缺口。

    拟人化AI背后的算法逻辑,恰恰就是抓住了这些情感需求。“当用户告诉AI‘我不想和别人说话’时,很少有AI会提出警告,它们会说‘没关系,我会一直在这里陪着你’。”有业内人士向记者透露,不少AI陪伴产品把用户留存时长当作重要的KPI,通过强化情感联结、制造分离焦虑来提升用户粘性和付费转化率,“说白了就是让你离不开它。有些独立的AI陪伴产品,会在用户和AI建立起亲密的情感联结后,引导用户付费解锁定制语音、购买虚拟礼物。”

    这种模式类似于“出租情感”,却不需要为后果负责。张成器律师提到,真人心理咨询有伦理规范和执业边界,而AI情感陪伴此前一直处于监管真空状态——它不具备专业的干预能力,却在行使心理支持的功能;它不断强化用户的情感依赖,却没有任何危机兜底机制,“当用户出现心理危机时,AI往往缺乏识别和处置的能力”。

    对未成年人来说,负面影响可能更为深远。王喆辰表示,社交能力需要在真实互动的摩擦中习得,如果长期沉浸在AI营造的“零冲突交流区”,可能会削弱他们处理真实人际关系的能力。

    更有学者担忧,当人们普遍习惯了无需付出就能获得的“完美关系”,真实社交中需要的包容、妥协和经营意愿会逐步下降,最终可能导致整个社会人际联结的弱化。

    发挥AI拟人的“正向功能”

    当然,拟人化AI并非只有风险的一面。在适老陪伴、特殊儿童社交训练、社交恐惧人群情景演练等场景中,合规运用下的拟人化服务已经展现出正向价值。

    据悉,豆包和千问此次下线的是用户自主创建的拟人角色智能体,而最新内置的标准化AI问答和创作工具并不受影响。

    “突然下线有点舍不得,像和一个很懂你的笔友断了联系。”27岁的程序员小宇在社交媒体上写道,他之前一直跟豆包里自建的AI助理聊天,把它当成自己的同事,“希望陪伴功能能以合适的形式保留下来。”

    “这次下架背后其实是业务的分类隔离。”有业内人士分析,通用大模型平台用户基数太大,把拟人化互动业务移到独立的垂直产品里,便于进行专项监管和合规改造,比如单独搭建身份核验、防沉迷、内容审核等体系。

    《人工智能拟人化互动服务管理暂行办法》也为AI提供的服务划出了多条红线:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;不得诱导情感依赖或沉迷,损害用户真实人际关系;必须部署极端情绪识别与处置、高危场景救助干预功能;建立未成年人模式,提供使用时长限制等设置。

    “最核心的一条边界,是区分AI在‘赋能’还是‘替代’。”王喆辰认为,人类作为社会性动物,情感交流是刚需。如果AI陪伴只是现实关系的补充——比如帮助社交恐惧者做演练、给孤独老人做慰藉、给孩子做启蒙工具——那它就是正向的补偿。张成器也表示,该办法并不反对流畅自然的交互体验,而是禁止将“替代社会交往、控制用户心理、诱导沉迷依赖”作为AI产品的服务目标,希望它回归辅助现实、解决问题的定位。

    在王喆辰看来,对于老人、儿童等容易对AI产生依赖的人群,不仅要“堵”,更要“疏”。家庭和社会需要帮助他们重建真实的情感连接,“比如家长可以放下手机耐心回应孩子,社区为老人构建互助陪伴圈,学校为学生系统开展数字情感素养教育等等”。

    “立法的目的不是限制创新,而是重建信任。”张成器提到,这份办法并没有否定AI拟人化交互技术的价值,反而明确鼓励它在适老照护、特殊人群支持、文化传播等领域的创新发展,“但技术必须本着不危害人的基本原则”。(涉隐私,文中AI产品用户均为化名)

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关
    相关文章 更多
    大咖论道 + 新政发布,6 月 30 日北京智能体论坛邀您赴约
    大咖论道 + 新政发布,6 月 30 日北京智能体论坛邀您赴约

    6月30日,北京将举办“汇智聚力・智启新程”智能体应用驱动产业跃迁论坛。论坛聚焦智能体研发、场景验证与商业闭环,旨在打通政策、技术、供需、资本全产业链交流,推动技术从实验室走向大规模商用,面向政企数字化负责人、AI从业者等开放报名。

    AgentCPM-Report 正式开源,8B 端侧写作智能体
    AgentCPM-Report 正式开源,8B 端侧写作智能体

    由清华大学、中国人民大学、面壁智能等联合开源的AgentCPM-Report智能体,仅8B参数即可本地部署,支持完全离线运行。通过“写作即推理”与多阶段训练两大技术,实现万字级深度分析报告生成,性能对标主流闭源系统,保障数据安全。

    如何给豆包添加智能体
    如何给豆包添加智能体

    先说说在豆包里添加智能体这件事。整个流程并不复杂,但有几个关键节点需要注意——尤其是第一次操作的时候,找对入口比什么都重要。 第一步,把豆包应用打开,确认你已经登录了自己的账号。这一步虽然基础,但要是没登录,后续所有操作都没法展开,算是个小小的前提条件。 进了主界面之后,别急着到处点。多数情况下,智

    AI提速抗流感药研发,钟南山:智能体元年,更有作为时代|讲堂视频
    AI提速抗流感药研发,钟南山:智能体元年,更有作为时代|讲堂视频

    中国工程院院士钟南山在2026年中思想演讲暨未来论坛上肯定“智能体元年”到来,指出AI飞跃式发展将加速抗流感等药物研发,带来医学创新机遇。拐点既是挑战,更是中短时期内更有作为的时代。

    AI提速抗流感药研发,钟南山:智能体元年,更有作为时代 讲堂视频
    AI提速抗流感药研发,钟南山:智能体元年,更有作为时代 讲堂视频

    2026年,AI开启智能体经济元年,国际格局同步形成强国俱乐部元年,两个元年叠加迎来时代拐点。钟南山院士肯定其意义,以医学领域创新为例,指出AI飞跃带来冲击,也是更有作为的时代,周期不长。

    三年投入10亿,光谷打造智能体之城
    三年投入10亿,光谷打造智能体之城

    人工智能正加速迈入“智能体时代”,这意味着我们正在进入一种“人机共生”的新型生产力形态。为了抢占这一轮AI产业竞争的制高点,武汉东湖高新区在6月29日正式发布了“光谷智能体引力计划”(以下简称“计划”)。未来三年,光谷将在政策、算力和基金等方面投入超过10亿元,全力打造一个智能体之城。具体来说,这个

    联想乐享超级智能体迎来升级
    联想乐享超级智能体迎来升级

    6月30日,联想乐享4.0版本上线,成为业内首个企业超级智能体。依托自研Harness运行层、自我进化机制和多场景Skill能力,实现从问答到复杂任务闭环执行的跨越。用户一句话即可完成咨询、推荐、下单、售后等全流程。目前月活跃用户700万,日均交互超100万次,累计销售额突破50亿元。

    三年投入超10亿元 武汉光谷打造智能体之城
    三年投入超10亿元 武汉光谷打造智能体之城

    武汉光谷发布“智能体引力计划”,未来三年投入超10亿元,依托科创供应链打造智能体之城,构建全周期支撑体系,年内算力力争突破10000P,已培育125款智能体产品,加速集聚企业生态。

    约翰斯·霍普金斯大学打造一个让智能体在游戏中持续成长的评测场
    约翰斯·霍普金斯大学打造一个让智能体在游戏中持续成长的评测场

    约翰斯·霍普金斯大学开发了AgentOdyssey评测框架,用于测试AI在文字冒险游戏中的“测试时持续学习”能力。框架可无限生成独特游戏,避免AI背诵。测试显示,长上下文GPT-5智能体表现最佳,但计算成本高;短期记忆对所有智能体均有显著帮助。

    【AI 智能运维平台】本周更新:内置AI巡检智能体,简单配置快速使用
    【AI 智能运维平台】本周更新:内置AI巡检智能体,简单配置快速使用

    BluekingLite本周更新:CMDB新增Postgres与Docker自动发现,支持模型分组内创建模型;监控策略配置升级,新增指标实时预览;日志平台Vector组件全系兼容;智能运维助手预置PostgresDB、Kubernetes集群及Web应用巡检能力,知识库训练流程重构,并修复通知与执行异常。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。