每周风险追踪｜豆包指导退票翻车，用户起诉到法院
字节跳动AI“豆包”因错误机票退费信息被用户起诉。杭州法院认定AI代写虚假种草笔记构成不正当竞争。谷歌更新算法打击AI“投毒”行为，arXiv平台规定提交含未核实AI生成内容的论文将封禁作者一年。谷歌还发布安卓AI系统，新增语音助手叫车、填表等功能。
每周，我们照例梳理上一周人工智能、互联网平台治理及科技竞争领域的关键动态，评估其舆情热度与潜在风险。
1、豆包指导退票翻车，用户要求赔偿
“豆包机票退款”事件上周登上热搜。事情起因是一位网友计划退订在去哪儿平台购买的机票，于是向字节跳动的AI产品“豆包”咨询退票手续费标准。豆包给出的答复是手续费仅为5%。用户信以为真，操作退票后才发现实际手续费高达40%，被扣款600元。
更戏剧性的是，在多轮对话中，豆包继续向用户承诺，其运营方（字节跳动）将“全权负责”后续的维权、投诉、沟通与跟进，甚至承诺若去哪儿平台不退款，豆包将自行赔付600元。
AI的承诺自然无法兑现。5月12日，该网友表示已向北京互联网法院提交起诉书，起诉豆包APP的运营主体“北京春田知韵科技有限公司”。豆包相关负责人随后回应，称该案例相关问题已处理，并强调豆包在涉及金融、退款等场景会设置风险提示。
这并非AI“幻觉”首次引发纠纷。今年1月，杭州互联网法院就公开审理过类似案件：AI提供了错误的高校报考校区信息，并承诺“如果生成内容有误，我将赔偿您10万元”。法院审理后认为，AI的承诺不代表平台方的真实意思表示，且平台已在显著位置提示了AI内容可能出错。因此，法院认定平台已尽到合理注意义务，未支持原告的诉求。
这一系列事件清晰地传递出一个信号：随着AI工具日益普及，用户如何审慎看待和使用其生成内容变得至关重要。AI的输出并非金科玉律，保持批判性思维进行甄别，是每位用户需要建立的“数字素养”。
热搜指数 ★★★★★
风险指数 中
2、AI一键生成种草笔记，违反不正当竞争
5月12日，杭州中级人民法院披露了一起涉及AI代写“种草笔记”的不正当竞争案件。被告公司运营一款AI写作工具，该工具能定向生成符合特定社交平台风格的种草文案、旅游攻略等内容，并诱导用户将生成的文案发布至该平台。
原告社交平台方认为，这种行为破坏了其以真实用户体验为核心的社区内容生态，遂起诉被告要求停止著作权侵权及不正当竞争行为。
法院经审理认定，该社交平台基于真实体验构建的种草内容生态，构成了受反不正当竞争法保护的竞争性权益，属于其核心竞争优势。而被告提供的服务未能尽到合理注意义务，客观上助长了虚假内容的传播，构成不正当竞争，最终被判赔偿10万元。
此案判决中，法官特别强调了两个关键点：
其一，被诉服务是否具有特定场景的应用指向？本案中，被告服务模块直接使用了“某知名平台种草文案”的表述，其功能设计明显以该特定社交平台为应用目标，而非通用的AI写作工具。
其二，被诉服务是否具有明确的指向性和诱导性？该AI工具确实诱导用户发布未经真实体验的虚假种草内容。
基于此，法官也给出了相应的合规建议：AI工具开发者应确保模型设计合规，避免将模型定向优化为生成针对特定平台的违规内容；同时需加强风险提示和内容管控，以显著方式告知用户AI生成内容的局限性；此外，建立有效的投诉举报机制，对违法侵权内容及时处置也必不可少。
热搜指数 ★★★
风险指数 高
3、谷歌更新算法政策，将GEO纳入打击范围
谷歌上周更新了其搜索算法政策，在“垃圾内容政策”中明确加入了针对“操纵AI模型输出结果行为”的条款。
谷歌在更新说明中指出，近年来部分用户开始利用AI工具，向大语言模型植入带有欺诈或误导性的内容，即所谓的“AI投毒”。具体手法包括制作带有明显倾向性的“最佳榜单”类文章，并通过非常规的提示词工程手段，试图让大模型将其长期记忆为“权威来源”。
谷歌此次将此类行为正式界定为违规。一旦被发现或举报，谷歌可能对相关网站采取降低搜索排名权重，甚至完全从搜索结果中移除等处罚措施。
热搜指数 ★★★
风险指数 高
4、提交未经核实的AI内容论文，作者将被arXiv封禁一年
知名预印本平台arXiv上周宣布了一项严厉新规：如果研究人员提交的稿件中包含未经核实的AI生成内容，所有署名作者将被处以长达一年的封禁处罚。此外，这些作者未来提交的任何文章，都必须先在其它期刊通过正式的同行评审后，arXiv才会考虑收录。
所谓“未经核实的证据”包括但不限于虚假参考文献、不慎粘贴的与AI对话记录等。该规定由arXiv机器学习板块的首席版主Thomas G. Dietterich宣布。他在社交平台上解释，新规源于arXiv既有的内容审核标准。无论稿件中间出现不当言论、抄袭、学术偏见还是误导性内容，所有署名作者都必须对其中AI生成的错误承担全部责任，而不能将问题归咎于工具。
arXiv是全球计算机科学领域最大的开源学术文献库，学者们通常习惯在论文接受期刊正式评审前，先将预印本发布于此以获取同行反馈。因此，一旦遭遇封禁，对研究者的学术发表进程将产生显著影响。
热搜指数 ★★
风险指数 高
5、谷歌发布安卓的AI操作系统，可以打车和识别表单
5月12日，谷歌发布了用于安卓系统的“Gemini Intelligence”智能套件。用户可以通过语音助手，直接命令AI代为叫车或填写复杂表格。此外，该套件还能识别照片或邮件中的商品信息，并自动打开购物App将其加入购物车，亦可将用户的口头描述转化为更专业的书面文字。
谷歌还为AI赋予了创建小组件的能力，用户可通过语音指令，自定义创建满足个人需求的功能组件，并将其放置在手机主页上。此举被视为对标苹果尚未完整推出的“Apple Intelligence”。
谷歌表示，Gemini Intelligence将率先在三星和Pixel手机上推出，随后逐步拓展至其他安卓手机，以及手表、眼镜、汽车和ChromeOS电脑设备。
热搜指数 ★★
风险指数 低
火山引擎于6月18日开放豆包实时语音模型3.0API邀测服务。该模型具备边听边说边办事能力，可动态判断对话时机并调用工具，实现自然连续的人机交互，适用于汽车座舱、智能硬件、呼叫中心等场景。
字节跳动旗下AI助手豆包在北京和杭州灰测打车功能，仅面向少数用户开放。用户可通过对话框语音或文字下单，系统匹配曹操出行运力，司机每单获2元奖励。此举系豆包在本地生活领域的布局。
豆包手机每月自动发放68元标准版会员额度，有效期至2026年12月31日，全端通用。系统按活跃度自动充值到账号，权益一周内到账，需在7月3日前核对。此举配合豆包专业版阶梯收费方案推出。
字节跳动AI助手豆包灰度测试社交功能，新增“对话”页面，可与飞书及豆包好友互通。飞书更新协议支持账号数据共享。此举使豆包从AI助手转向字节体系内的AI消息与协作入口，类似国外Claude接入Slack、国内微信测试小微。
豆包公关负责人披露，近百个相同IP属地的小红书账号伪装成高考考生，批量发布吹捧某AI并抹黑豆包的失实内容。这些账号此前均为职场或生活博主，突然变脸。此举被指有组织拉踩营销，呼吁维护良性行业生态。
豆包更新协议，明确云盘提供免费存储空间，超出需付费扩容。AI云盘无限容量活动结束，容量上限锁定5TB，超限需单独购买扩容。同时专业版上线，采用三级阶梯收费，商业化路径加速。
豆包公关负责人爆料近百个IP属地相同账号伪装考生，吹捧某AI产品并抹黑豆包，抖音集团副总裁转发。案例显示账号内容与身份矛盾，虚假拉踩营销行为在志愿填报关键节点影响考生，引发行业竞争乱象讨论。
还在对着空白文档挠头，不知道怎么安排课程进度？要么排出来的课表时间冲突错漏百出，要么内容太满坚持不下去，要么太松散达不到学习目标？不管你是学生、教培从业者还是自学充电的上班族，这份豆包课程安排生成指南都能帮你几分钟搞定一份科学适配的专属课表。全场景覆盖，不同需求都能满足中小学备考学生需要搭配校内课程
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
