上万个AI应用程序智能体等被处置！南都曾起底声音克隆乱象

7月6日，“网信中国”发布了一则消息：自4月启动的“清朗·整治AI应用乱象”专项行动，累计处置违规AI产品——包括、应用程序、智能体——多达1.4万余款，下架违规AI商品1300多个。与此同时，南都N视频推出的《AI魔性侵权乱象系列调查》，把焦点对准了声音克隆、虚拟伴侣这些乱象。在AI创作平台上，只需上传3秒原声，就能克隆音色，然后任意“魔改”台词——技术门槛低得惊人。

南都此前报道。

中央网信办这次专项行动分为几个阶段，第一阶段重点整治的是：未按规定完成大模型备案登记、AI平台安全审核过滤能力薄弱、AI数据投毒、生成合成内容标识落实不到位等问题。从数据看，第一阶段累计处置违规AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个，违规开源数据集9个。力度不可谓不大。

各地网信部门也拿出了各自的招数。北京网信办建立了“平台自查+常态巡查+技术筛查+线索核查”的联动机制；上海网信办针对不同平台类型细化要求，指导升级举报机制，主动发布治理公告；广东网信办则协调多部门监管，综合运用技术巡查、人工复核、现场督导、约谈惩戒等方式，对AI应用乱象进行全链条治理。

南都N视频的《AI魔性侵权乱象系列调查》，持续起底滥用AI生成技术背后的产业链。4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需要上传3秒原声，几分钟就能克隆音色并任意改词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，赫然出现在平台音色库的公开素材中，使用人数早已过万。而在二手交易平台上，AI声音克隆服务每50字收费还不到1元。大量商家声称AI克隆音色相似度超过98%，但当被问及侵权问题时，却直言“问就是有侵权”——态度直白得令人咋舌。

4月7日，知名配音演员季冠霖通过南都发声，呼吁平台建立侵权内容快速识别和下架机制，她说：“技术应为文明赋能，而非成为侵权的温床。”这话点出了问题的核心。

调查报道发出后，多地监管迅速把“AI技术滥用”列为整治重点。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件——原来那个“请上传3-5秒音频或视频”的选项被删除了；公共素材库里也搜不到“哪吒”等相关音色了。可见，报道的推动力确实不小。

采写：南都N视频记者 彭雨欣