AI伪造人设防不胜防，Soul放大招：用AI打败AI

AI技术正在以肉眼可见的速度渗透进社交场景——图文生成、视频合成、智能聊天，门槛一降再降，人人都能玩转。但硬币的另一面，是滥用AI伪造身份、虚构人设、打造虚假社交关系的乱象层出不穷，公众对“什么是真实社交”的认知正被不断冲击。

针对这类问题，Soul最近更新了《社区公约》，明确给AI在社交场景里划了一条线：AI可以作为创作工具，但严禁用于造假、构建虚假关系，或者取代真实互动。

当下的AI衍生违规内容，隐蔽性极强，已经不再是过去那种靠敏感词、直白反诈就能识别出来的套路。很多异常账号不再使用模板化话术，而是模拟正常社交节奏，一步步培养信任，再实施导流或诱导行为。伪装性有多高？高到你几乎察觉不到异常。

所以，平台治理也得同步升级。Soul正在借助技术能力强化行为与关系识别，用AI来甄别虚假人设、拦截风险互动，持续提升风控效能。

《社区公约》AI相关补充更新。

利用AI甄别整套“人设逻辑”

在一些典型的高风险案例里，一个账号可能会借助豪车、高薪职业、高端消费等素材，把自己包装成“成功人士”“高净值男性”或“精英职业”人设，再用话术引导获取信任。单点查看这些内容，你发现不了任何违规——豪车图不违法，高薪描述也不违规。但组合在一起，风险立刻就凸显出来了。问题的根源，在于整套虚假人设体系。

“豪车男”账号的问题，不在某一句话或某一张图，而是整套“人设逻辑”。基于这个判断，Soul开始采用跨模态联动的AI治理能力，把图片、文本、视频、声纹以及用户行为等不同维度的信息进行综合研判，而不是孤立地看单一信息。

目前，Soul已经逐步形成一套覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系，并应用在虚假人设识别、异常互动判断、风险内容拦截等多个场景中。

举个具体例子：在图片场景里，通过AI生成痕迹识别、图片原创性判断等能力，可以识别出AI作图、盗图、拼接图等问题。在文本与互动场景中，主要依靠大模型来甄别人设包装、违规导流和欺诈意图，而不再局限于关键词筛查。

此外，平台还在语音、视频场景强化了风控，借助声纹特征与行为链路，识别AI伪造声纹、跨账号关联等隐蔽风险，全面提升伪装内容的检出能力。

从事后处置转向前置干预

Soul的风控AI已经实现了毫秒级风险识别与对抗能力。和传统的“内容违规—人工处理”这种单点治理方式不同，现在的AI治理更像一个持续性的风险识别系统。它不只关注单条内容本身是否违规，还会结合账号行为、互动关系以及上下文场景，对异常社交行为进行动态分析。

AI技术大幅拓宽了平台风控的覆盖范围。以前以人工审核为主，处理能力有限；引入自动化识别体系后，平台风控效率实现了数倍提升。

除了对异常内容即时发现与判断，平台也开始加强对黑产“反复作案”行为的持续性治理。比如，系统可以对已判定的风险素材、违规内容进行联动管控——相似内容再次出现，直接拦截；关联账号也会被回溯处置。这个模式改变了以往“发现一次、处理一次”的被动局面，显著抬高了黑产的作弊成本，压缩了他们的生存空间。

随着相关治理能力逐步上线，平台对异常社交风险的识别效率持续提升。目前风险识别准确率已达到95%，重点风险场景覆盖能力显著增强。平台内部分高风险行为已经开始回落——数据显示，杀猪盘高危触达量同比下降了37.37%，相关深度风险互动持续减少。与此同时，异常互动相关的用户举报量也在下降。

大量高风险账号已经能在真正接触用户之前被提前识别和自动化处置——超过66%的高风险账号实现了前置拦截。平台日均拦截异常与涉诈行为已超过10万次，累计为用户规避了千万元级的潜在损失。风控模式彻底从“事后处置”转向了“前置干预”。

比如，在前面提到的假“豪车男”人设治理场景中，相关能力上线后，系统可以毫秒级甄别盗图、合成图及高风险人设包装等场景，自动处置效率与用户感知量之比已达到10:1以上。

社交真实边界重新界定

除了风险治理，“AI陪伴”与真实社交的边界，也是行业里讨论最多的话题之一。

目前，Soul在部分场景中已经上线了标注清晰的AI虚拟角色，主打情绪陪伴、表达支持与互动体验，而不是以“真实用户”身份参与社区社交关系。平台同步更新了《社区公约》，划定了AI角色的使用边界，并提醒用户注意区分人机身份。

此外，平台还增加了使用提醒机制。比如，当用户与AI虚拟角色进行长时间连续互动时，系统会适时弹窗提醒，引导用户合理、理性使用。Soul并不想把AI单纯当成“聊天工具”或“虚拟陪伴”，而是更倾向于将其定位为表达与情绪辅助工具——它不该是真人社交的替代品。

在技术风控之外，Soul也在持续尝试“用户共治”。社交社区里的风险内容、异常互动与新型套路，往往最先被用户察觉和反馈。

过去几年，Soul逐步搭建起用户反馈、风险举报、社区巡查以及护星员等多元化共治体系。用户主动分享反诈经验、识别异常互动特征，或者参与社区安全相关内容的共建。这些反馈也反哺给了平台，帮助持续优化风控策略。

与传统意义上的“平台管理”不同，AI时代的社区治理更像是一种持续演化的协同机制。一方面，平台通过AI能力提升风险识别效率；另一方面，用户对真实感、互动体验以及异常行为的感知，也在帮助风险研判。

某种意义上，Soul这次修订《社区公约》，并不是单纯的规则调整，而是社交平台在AI浪潮下，对社交真实边界的一次重新界定。

最新账号@Soul风纪球长违规案例公示。

如何继续守护“真实”社交

AI深入内容创作、情绪陪伴与社交互动，让“真实”的界定变得越来越复杂。平台治理也告别了过去单纯依赖人工审核与静态规则的模式，升级为持续演化的动态治理——既要甄别风险内容本身，也要研判行为逻辑、互动关系以及更复杂的社交场景。

对于Soul来说，AI兼具产品与治理双重属性：一方面帮助用户更方便地表达与交流，另一方面也助力平台排查虚假人设、异常互动与高风险行为。但无论技术怎么变，真实、善意、自然的互动，仍然是社交关系的核心基础。

这或许是AI时代下，所有社交平台都需要面对的一个长期课题：当“像一个人”越来越容易时，平台该如何继续守护人与人之间真实的连接。对此，Soul也在不断探索解决方案。