上万条“AI魔改”视频被清理！南都曾起底滥用AI侵权乱象

8月4日，从部分重点网络视听平台了解到，7月份“AI魔改”视频专项治理的处置情况已公布，数据挺直观——共清理违规视频13300余条、处置违规账号30余个。南都N视频的《AI魔性侵权乱象系列调查》，一直在追踪声音克隆、虚拟伴侣这些乱象。调查发现，在一些AI创作平台上，技术门槛已经低到令人咋舌：只需上传3秒原声，就能克隆音色，台词可以随意改。

“AI魔改”视频截图。

按广电总局的部署，从1月开始的“AI魔改”视频专项治理，确实取得了阶段性成果。从2月1日起，这项工作已经转入常态化、制度化的长效机制，目标是持续巩固治理效果，不搞一阵风。

广电总局要求各主要网络视听平台进一步压实主体责任，日常排查要更细，重点清理那些基于四大名著、历史题材、革命题材、英模人物等经典影视作品进行“AI魔改”的违规视频，同时同步清理各类邪典动画，为整个网络视听生态营造一个健康的氛围。

南都N视频的系列调查，一直在深挖这些滥用AI生成技术的侵权现象背后的产业链。

南都此前报道。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需要上传3秒原声，几分钟就能克隆音色，词还可以随便改；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，就出现在公共音色库中，使用人数早就过万了；而二手交易平台上，AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超过98%，但面对侵权质疑，态度很直接：“问就是有侵权”。

4月7日，知名配音演员季冠霖通过南都发出了倡议，呼吁平台建立侵权内容的快速识别和下架机制。她的原话是：“技术应为文明赋能，而非成为侵权的温床”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治重点。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已经无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；公共素材库中，也搜不到“哪吒”等相关音色了。

同日，ViiTor AI平台相关负责人回应南都记者表示，“平台公共音色库内容均为用户自主上传的UGC内容。平台仅执行必要的合规筛选，不对音色内容进行主动推荐、编辑或干预。对确属侵权且证据明晰的举报内容，平台会核验并采取下架、屏蔽等措施。”