当前位置:

首页 > 硬件相关 > 上海深入整治AI应用乱象,严防技术滥用侵害未成年人

上海深入整治AI应用乱象,严防技术滥用侵害未成年人

中央网信办“清朗·整治AI应用乱象”专项行动进入第二阶段后,上海市委网信办从6月下旬开始,针对AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗内容、仿冒他人、侵害未成年人权益、从事网络水军活动、违规提供AI产品服务和应用程序等七类突出问题,集中力量清理违法和不良信息,依法处置违规账号。截至最

本文目录

    中央网信办“清朗·整治AI应用乱象”专项行动进入第二阶段后,上海市委网信办从6月下旬开始,针对AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗内容、仿冒他人、侵害未成年人权益、从事网络水军活动、违规提供AI产品服务和应用程序等七类突出问题,集中力量清理违法和不良信息,依法处置违规账号。截至最新数据,属地平台累计清理违法和不良信息174万余条,处置违规账号4200余个。多家重点平台已经面向社会公开发布了专项行动第二阶段的治理公告,主动接受公众监督。

    正值暑假,未成年人用网频率和AI生成合成信息的传播特点都发生了变化。上海市委网信办指导小红书、哔哩哔哩、千问等重点平台,采取针对性措施,集中整治AI技术滥用侵害未成年人权益的问题。小红书的做法是优化AI审核模型,从源头防范生成暴力、低俗等不适宜未成年人接触的风险内容;同时通过用户行为特征,智能识别未成年用户,对AI生成的不当内容实施“软隔离”,把未成年人保护从被动响应转向主动防护。哔哩哔哩则持续扩充黑样本库,重点覆盖AI换脸公众人物、AI邪典、AI生成恐怖血腥虚拟形象等涉未成年人高风险内容,不断优化AI审核模型。千问升级了未成年人安全保护方案——用户进入未成年人模式后,平台对生成内容实施严格安全保护,显著降低不良价值观等风险内容的侵害,主动防止与未成年用户开展不符合其年龄身份的对话互动。

    为了进一步加强警示教育,现将涉侵害未成年人权益的典型案例通报如下。

    1

    “977*”“小*6A1C7DC8”等账号生成合成恶搞、欺凌未成年人等内容。涉及内容已被相关平台依法依约采取处置措施,涉及账号已被禁言。



    2

    “小*花”“黄金*”等账号生成合成打架、纹身等与未成年人年龄特点不符、宣扬不良价值观等内容。涉及内容已被相关平台依法依约采取处置措施,涉及账号已被禁言。


    3

    “Viction *”“非常开朗的*”等账号以未成年人喜爱的动画人物或玩偶形象为原型,无底线“二创”版权动画,生成低俗、血腥等图片。涉及内容已被相关平台依法依约采取处置措施,涉及账号已被禁言。


    下一步,上海市委网信办将继续深入整治AI应用乱象,加强AI应用重点环节管理,督促指导平台持续提升安全防护能力,加大违法违规信息和账号查处力度,以实际行动净化未成年人上网环境,护航未成年人健康成长。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关
    相关文章 更多
    中国AI应用正式进入10亿用户时代
    中国AI应用正式进入10亿用户时代

    中国AI应用进入十亿用户时代。支付宝推出AI版“阿宝”,用户通过自然语言对话即可完成服务。微信亦加速研发AI智能体。行业共识从问答转向执行,超级App凭借场景厚度与信任资产,构建可调度的服务网络,推动Agent生态发展。

    3亿美元融资、20亿美元估值背后,中国AI应用第一次跑出产品矩阵
    3亿美元融资、20亿美元估值背后,中国AI应用第一次跑出产品矩阵

    演语科技完成近3亿美元B+轮融资,估值超20亿美元,年度经常性收入达3亿美元。公司连续推出LiblibAI、星流、LibTV三款产品,跨越图片生成、Agent和视频生成三轮技术周期,构建AI内容创作矩阵,实现集团化作战。

    国内首批智能体国家标准正式发布,AI应用从技术验证走向规模化落地
    国内首批智能体国家标准正式发布,AI应用从技术验证走向规模化落地

    国内首批智能体国家标准正式发布,明确了定义、分类、技术要求和测试方法,降低应用门槛与风险。此举加速智能体在工业、服务、家居等领域规模化落地,推动AI从模型竞赛转向场景应用,云计算与AI基础设施企业率先受益。

    Hermes Agent持续优化智能体能力,多Agent协同成为企业AI应用新方向
    Hermes Agent持续优化智能体能力,多Agent协同成为企业AI应用新方向

    HermesAgent近期更新聚焦智能任务编排、多Agent协同与工具调用能力,可自动拆解复杂目标并调度执行,多Agent分工协作实现端到端工作流自动化,同时强化系统稳定性与上下文记忆,推动企业级AI应用向更高效方向发展。

    从作业帮AI超级老师,看教育AI应用落地的更多可能
    从作业帮AI超级老师,看教育AI应用落地的更多可能

    长久以来,AI在教育领域的应用似乎进入了瓶颈期——AI擅长解题,却难以育人;能提供信息,却缺乏温度。通用大模型技术的逻辑与教学服务的本质之间,横亘着数道鸿沟。8月17日,作业帮对外展示的一次“AI进化”,宣布AI超级老师多模态能力再度进化,双向智能交互且讲解能力媲美真人,引领行业进入学习机5.0时代

    清理违法违规信息600余万条 中央网信办出手整治AI应用乱象
    清理违法违规信息600余万条 中央网信办出手整治AI应用乱象

    清朗·整治AI应用乱象专项行动第一阶段,累计处置违规AI产品1.4万余款,清理违法违规信息600余万条,处置账号2.6万余个,下架违规商品1300余个及数据集9个。

    上万个AI应用程序智能体等被处置!南都曾起底声音克隆乱象
    上万个AI应用程序智能体等被处置!南都曾起底声音克隆乱象

    清朗·整治AI应用乱象”专项行动累计处置违规AI产品1.4万余款,下架违规商品1300余个。南都调查发现,AI平台仅需3秒原声即可克隆音色,二手平台克隆服务每50字收费不足1元,侵权问题突出。配音演员呼吁建立快速识别机制,报道后平台已整改相关功能。

    腾讯AI应用生成平台“吐司”iOS版上线,主打Vibe Coding
    腾讯AI应用生成平台“吐司”iOS版上线,主打Vibe Coding

    腾讯“吐司”AI生成应用iOS版上线,主打VibeCoding。此前安卓版已推出。通过AI梳理需求、生成应用框架并支持精细化编辑,设有“灵感广场”供模板共创,旨在实现从想法到分发的闭环生态。

    把AI智造搬上桌面!张江AI应用商店迎来这一硬核全国首秀
    把AI智造搬上桌面!张江AI应用商店迎来这一硬核全国首秀

    坐落张江人工智能创新小镇的MetAI Hub上海AI应用商店今天迎来一场别具一格的线下体验活动:深圳数马三维科技Xhorse3D旗下的新款桌面五轴CNC加工中心WM-100在此举办新品首秀。在传统印象里,五轴加工意味着大型机床、工厂、专业工程师和昂贵的CAM软件,普通人则很少触及。Xhorse3D却

    阿里Meoo Pro版限时9.9元/月,支持低门槛、低成本开发AI应用
    阿里Meoo Pro版限时9.9元/月,支持低门槛、低成本开发AI应用

    阿里推出MeooPro版限时9.9元/月,附赠积分与存储空间。该工具无需编程,通过语音或文字描述即可快速生成AI应用、网页及小程序,并直接部署上线,降低个人开发者和团队使用AI的门槛。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。