从AI风控到用户保护,Soul 26年第二季度生态安全报告披露治理成效

当AI技术越来越深入地渗透到互联网平台治理中，一个明显的变化是：内容识别效率、风险研判能力和生态治理的精细化程度，都在被重新定义。与此同时，社交平台上的风险形态也在悄然进化——黑灰产作弊、虚假人设、诱导消费、私聊骚扰这些老问题，换上了更隐蔽、更链式化包装，对平台治理的及时性、准确性和系统性提出了更高要求。

最近，Soul App发布了《2026年第二季度生态安全报告》。报告显示，二季度，Soul围绕反诈、违规内容处置、群聊与私聊治理、未成年人保护等环节，进一步把AI技术落地到实际场景中。一个关键变化是：风险识别不再局限于单一的内容审核，而是朝着账号、行为和社交链路的综合研判延伸。

私聊保护机制升级

和公开内容相比，私聊里的骚扰和不友善行为往往更隐蔽，也更容易让用户产生持续性的负面体验。二季度，Soul重点优化了面向女性用户的私聊保护机制。

具体来说，平台会根据消息内容、互动频率和账号行为，对疑似骚扰信息进行风险隔离，减少低质信息直接触达用户。对于那些在不同社交链路中反复接触女性用户的不友善账号，平台则通过多场景联动策略限制其持续触达——在尽量不影响正常沟通的前提下，降低骚扰风险。

数据来看，二季度，Soul日均帮助用户隔绝网暴和频繁骚扰3099次，日均处置存在私聊不文明行为的用户1737个，并通过产品提示日均引导用户文明发言19.9万次。

完善AI生成内容提示

在把AI用于生态治理的同时，Soul也在完善社区内AI生成内容的识别和提示机制。针对AI人像、虚假生活场景以及疑似盗图内容，平台会综合分析图片元数据、外显标识、人像和图像特征，对可能影响真实社交判断的内容进行分层识别。一旦识别到相关特征，平台会通过中性提示帮助用户了解内容属性，而不是直接下结论。