四川射洪女子用AI批量炮制虚假文案被罚！南都曾起底产业链

7月11日，四川遂宁射洪市警方通报了一起颇具代表性的案例：一名女子利用人工智能技术批量编造虚假信息，并在网络社群和自媒体平台大肆传播。更令人咋舌的是，她的“造谣生意”持续了将近一年，最终被公安机关依法行政处罚，所有不实信息也被责令删除。

这起案件的主角董某，初衷很简单——赚点外快。但她的操作方式，却暴露了AI技术被滥用的一个典型路径：用AI工具批量生成博人眼球的虚假文案，然后在多个平台疯狂扩散。从案发到处置，整个过程其实并不复杂，但背后折射出的问题，值得深思。

相关谣言内容已被辟谣，但警方的提醒值得反复强调：网络不是法外之地，AI技术绝非造谣传谣的“挡箭牌”。所有网民都应守住底线，不造谣、不信谣、不传谣，理性使用网络，共同维护清朗的空间。

这类案例并非孤例。南都记者此前曾对AI造谣牟利乱象进行过深度调查。实测发现，网上存在大量免费的“AI写作神器”和“视频生成器”，只需输入简单指令，就能瞬间生成涉及汛情、火灾等敏感主题的虚假文案。甚至，只要给AI一个“正式警情通报”的模板，它就能模仿最新的口吻，编造出以假乱真的细节。更离谱的是，一张普通景区照片，经过AI处理，就能变成一段“桥梁断裂事故”的视频。

面对海量AI生成的内容，暨南大学网络空间安全学院教授夏志华提出了一个“四维共治”的框架。这个框架的核心逻辑是：个人、平台、技术、监管，四个环节缺一不可。对个人而言，需要提升媒介素养，主动核验可疑信息，尽量切断传播链；对平台来说，责任最重——需要部署AI检测系统，对生成内容强制标识，同时建立“技术筛查+人工复核+用户举报”的机制，并对造假账号实施信用惩戒；技术社区则应研发更强大的鉴伪模型，并把前沿成果公开共享；监管部门则需完善立法，严打跨境虚假信息犯罪。