网信办专项受理AI魔改举报！南都曾起底声音克隆侵权乱象

6月12日，“网信中国”发布消息，中央网信办举报中心从本月起开设“涉AI应用乱象举报专区”，这一次，打击范围覆盖了利用AI“魔改”经典、生成“数字泔水”等14类具体问题。媒体同步推出的《AI魔性侵权乱象系列调查》，也把声音克隆这类现象拉到了聚光灯下——在一些AI创作平台上，上传3秒原声，就能克隆音色，甚至可以随意修改台词。

经典影视剧遭AI“魔改”视频截图。

配合“清朗·整治AI应用乱象”专项行动，中央网信办举报中心正式开设专项举报入口。受理范围被明确划分成“AI应用服务违规类”和“AI信息内容乱象类”两大维度。具体来说，包括了生成合成内容标识落实不到位、制作发布虚假不实和暴力低俗信息、利用AI“魔改”经典、生成“数字泔水”等14个具体问题。

媒体在对AI侵权现象的持续追踪中，发现了一系列让人不安的细节。今年4月上旬，有记者在ViiTor AI平台上实测发现：上传3秒原声，几分钟内就能克隆出一个音色，并自由替换台词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，赫然出现在平台的公开音色库中，使用人数早已过万。更让人意外的是，在二手交易平台上，AI声音克隆服务的价格低到每50字不到1元，众多商家宣称相似度超过98%，但一旦被问及侵权风险，回复出奇一致——“问就是有侵权”。

南都此前报道。

4月7日，知名配音演员季冠霖通过媒体发出倡议，呼吁平台建立侵权内容快速识别和下架机制。她的原话很值得深思：“技术应为文明赋能，而非成为侵权的温床。”

好在事情很快有了变化。调查报道发出后，多地监管部门将“AI技术滥用”列为整治重点。4月16日，记者再次进入ViiTor AI平台发现，“音色克隆”功能中，“请上传3-5秒音频或视频”的选项已经被删除，公共素材库中“哪吒”等相关音色也已搜索不到。

同一天，ViiTor AI平台相关负责人回应称：“平台公共音色库内容均为用户自主上传的UGC内容。平台仅执行必要的合规筛选，不对音色内容进行主动推荐、编辑或干预。对确属侵权且证据明晰的举报内容，平台会核验并采取下架、屏蔽等措施。”