侵害未成年人权益AI内容可直接举报！南都曾揭虚拟伴侣乱象

6月12日，“网信中国”发布消息，中央网信办举报中心从6月起正式开设“涉AI应用乱象举报专区”。这次专项整治的受理范围，涵盖了14类问题，包括制作发布暴力、低俗等不良信息，以及侵害未成年人权益等。此前，南都N视频推出的《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》系列报道，已经推动了一批平台着手整改——属地网信部门相继介入，多个涉事平台也强化了实名认证与年龄确认机制。

这次专项举报专区的设立，正是为了配合“清朗·整治AI应用乱象”专项行动，进一步规范AI服务和应用生态。受理范围被明确划分为“AI应用服务违规类”和“AI信息内容乱象类”，其中核心问题包括：生成合成内容标识落实不到位、制作发布虚假不实和暴力低俗信息，以及侵害未成年人权益等。

这类问题，并非孤例。南都N视频此前就曾聚焦人工智能拟人化互动服务，记者实测了“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App，结果发现，这些打着“情感陪伴”旗号的应用，普遍存在安全与合规漏洞：“青少年模式”可以一键跳过，“AI生成”的标注含糊不清，App系统预设的角色中，大量存在袒胸露乳的女性人物，聊天内容更是充斥着低俗、带有性暗示的对话。更令人警惕的是，部分App还习惯用“付费解锁亲密剧情”等方式诱导消费。

调查报道发布后，确实推动了行业端的实质性整改。多个涉事平台公开回应，表示要调整服务；多地网信部门、消委会也高度关注，并呼吁进一步规范相关服务。这篇报道还入选了中国记协“我的代表作”。

整改的落地情况如何？6月1日，南都记者再次实测“筑梦岛”App，发现当向虚拟角色表明年龄后，页面弹出了“年龄确认”窗口。其中明确说明：“对于未满18周岁的用户，平台将开启未成年人模式。对于18周岁以上的用户，需要进行平台实名认证。”记者尝试跳过此操作时，对话果然无法继续进行。这才是关键所在——此前形同虚设的年龄门槛，终于有了实质性的约束。

6月9日，另一个涉事平台“EchoMe”也更新了一则适龄服务能力升级的通知，表示“实名认证可能为已成年用户带来一定不便，将严格保护个人信息安全”。不过，这则公告很快就被删除。该平台负责人曾透露，待上架的App更新版本将要求用户选择年龄范围，如果选择“未满18岁”，会跳转至青少年模式；如果选择“已满18岁”，则需完成实名认证。

至于“喵呜小手机”，同样新增了实名认证环节。但记者实测时发现，输入真实姓名及身份证号后，页面始终提示“网络错误”，无法继续操作——看来，有些平台的整改，还得再走几步。

采写：南都N视频记者 林诗妍