当前位置:

首页 > 硬件相关 > 上万个AI应用程序智能体等被处置!南都曾起底声音克隆乱象

上万个AI应用程序智能体等被处置!南都曾起底声音克隆乱象

清朗·整治AI应用乱象”专项行动累计处置违规AI产品1.4万余款,下架违规商品1300余个。南都调查发现,AI平台仅需3秒原声即可克隆音色,二手平台克隆服务每50字收费不足1元,侵权问题突出。配音演员呼吁建立快速识别机制,报道后平台已整改相关功能。

本文目录

    7月6日,“网信中国”发布了一则消息:自4月启动的“清朗·整治AI应用乱象”专项行动,累计处置违规AI产品——包括、应用程序、智能体——多达1.4万余款,下架违规AI商品1300多个。与此同时,南都N视频推出的《AI魔性侵权乱象系列调查》,把焦点对准了声音克隆、虚拟伴侣这些乱象。在AI创作平台上,只需上传3秒原声,就能克隆音色,然后任意“魔改”台词——技术门槛低得惊人。


    南都此前报道。

    中央网信办这次专项行动分为几个阶段,第一阶段重点整治的是:未按规定完成大模型备案登记、AI平台安全审核过滤能力薄弱、AI数据投毒、生成合成内容标识落实不到位等问题。从数据看,第一阶段累计处置违规AI产品1.4万余款,清理违法违规信息600余万条,处置账号2.6万余个,下架违规AI商品1300余个,违规开源数据集9个。力度不可谓不大。

    各地网信部门也拿出了各自的招数。北京网信办建立了“平台自查+常态巡查+技术筛查+线索核查”的联动机制;上海网信办针对不同平台类型细化要求,指导升级举报机制,主动发布治理公告;广东网信办则协调多部门监管,综合运用技术巡查、人工复核、现场督导、约谈惩戒等方式,对AI应用乱象进行全链条治理。

    南都N视频的《AI魔性侵权乱象系列调查》,持续起底滥用AI生成技术背后的产业链。4月上旬,南都记者实测发现,在AI创作平台ViiTor AI上,只需要上传3秒原声,几分钟就能克隆音色并任意改词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声,赫然出现在平台音色库的公开素材中,使用人数早已过万。而在二手交易平台上,AI声音克隆服务每50字收费还不到1元。大量商家声称AI克隆音色相似度超过98%,但当被问及侵权问题时,却直言“问就是有侵权”——态度直白得令人咋舌。

    4月7日,知名配音演员季冠霖通过南都发声,呼吁平台建立侵权内容快速识别和下架机制,她说:“技术应为文明赋能,而非成为侵权的温床。”这话点出了问题的核心。

    调查报道发出后,多地监管迅速把“AI技术滥用”列为整治重点。4月16日,南都记者再次进入ViiTor AI平台发现,“音色克隆”功能中已无法直接上传音视频文件——原来那个“请上传3-5秒音频或视频”的选项被删除了;公共素材库里也搜不到“哪吒”等相关音色了。可见,报道的推动力确实不小。

    采写:南都N视频记者 彭雨欣

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关
    相关文章 更多
    中国AI应用正式进入10亿用户时代
    中国AI应用正式进入10亿用户时代

    中国AI应用进入十亿用户时代。支付宝推出AI版“阿宝”,用户通过自然语言对话即可完成服务。微信亦加速研发AI智能体。行业共识从问答转向执行,超级App凭借场景厚度与信任资产,构建可调度的服务网络,推动Agent生态发展。

    3亿美元融资、20亿美元估值背后,中国AI应用第一次跑出产品矩阵
    3亿美元融资、20亿美元估值背后,中国AI应用第一次跑出产品矩阵

    演语科技完成近3亿美元B+轮融资,估值超20亿美元,年度经常性收入达3亿美元。公司连续推出LiblibAI、星流、LibTV三款产品,跨越图片生成、Agent和视频生成三轮技术周期,构建AI内容创作矩阵,实现集团化作战。

    国内首批智能体国家标准正式发布,AI应用从技术验证走向规模化落地
    国内首批智能体国家标准正式发布,AI应用从技术验证走向规模化落地

    国内首批智能体国家标准正式发布,明确了定义、分类、技术要求和测试方法,降低应用门槛与风险。此举加速智能体在工业、服务、家居等领域规模化落地,推动AI从模型竞赛转向场景应用,云计算与AI基础设施企业率先受益。

    Hermes Agent持续优化智能体能力,多Agent协同成为企业AI应用新方向
    Hermes Agent持续优化智能体能力,多Agent协同成为企业AI应用新方向

    HermesAgent近期更新聚焦智能任务编排、多Agent协同与工具调用能力,可自动拆解复杂目标并调度执行,多Agent分工协作实现端到端工作流自动化,同时强化系统稳定性与上下文记忆,推动企业级AI应用向更高效方向发展。

    从作业帮AI超级老师,看教育AI应用落地的更多可能
    从作业帮AI超级老师,看教育AI应用落地的更多可能

    长久以来,AI在教育领域的应用似乎进入了瓶颈期——AI擅长解题,却难以育人;能提供信息,却缺乏温度。通用大模型技术的逻辑与教学服务的本质之间,横亘着数道鸿沟。8月17日,作业帮对外展示的一次“AI进化”,宣布AI超级老师多模态能力再度进化,双向智能交互且讲解能力媲美真人,引领行业进入学习机5.0时代

    清理违法违规信息600余万条 中央网信办出手整治AI应用乱象
    清理违法违规信息600余万条 中央网信办出手整治AI应用乱象

    清朗·整治AI应用乱象专项行动第一阶段,累计处置违规AI产品1.4万余款,清理违法违规信息600余万条,处置账号2.6万余个,下架违规商品1300余个及数据集9个。

    腾讯AI应用生成平台“吐司”iOS版上线,主打Vibe Coding
    腾讯AI应用生成平台“吐司”iOS版上线,主打Vibe Coding

    腾讯“吐司”AI生成应用iOS版上线,主打VibeCoding。此前安卓版已推出。通过AI梳理需求、生成应用框架并支持精细化编辑,设有“灵感广场”供模板共创,旨在实现从想法到分发的闭环生态。

    把AI智造搬上桌面!张江AI应用商店迎来这一硬核全国首秀
    把AI智造搬上桌面!张江AI应用商店迎来这一硬核全国首秀

    坐落张江人工智能创新小镇的MetAI Hub上海AI应用商店今天迎来一场别具一格的线下体验活动:深圳数马三维科技Xhorse3D旗下的新款桌面五轴CNC加工中心WM-100在此举办新品首秀。在传统印象里,五轴加工意味着大型机床、工厂、专业工程师和昂贵的CAM软件,普通人则很少触及。Xhorse3D却

    阿里Meoo Pro版限时9.9元/月,支持低门槛、低成本开发AI应用
    阿里Meoo Pro版限时9.9元/月,支持低门槛、低成本开发AI应用

    阿里推出MeooPro版限时9.9元/月,附赠积分与存储空间。该工具无需编程,通过语音或文字描述即可快速生成AI应用、网页及小程序,并直接部署上线,降低个人开发者和团队使用AI的门槛。

    Character AI持续拓展AI应用场景,推动智能角色技术创新发展
    Character AI持续拓展AI应用场景,推动智能角色技术创新发展

    CharacterAI作为个性化AI角色创建平台,正推动人机交互从信息工具向智能伙伴转变。其在教育辅导、创意写作、语言陪练和虚拟陪伴等场景展现价值,通过定制角色实现深度互动。随着生成式AI技术成熟,未来将具备更强理解能力和更自然的情感连接。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。