四川射洪女子用AI批量炮制虚假文案被罚!南都曾起底产业链
四川射洪一女子利用AI批量编造虚假信息并传播近一年,被警方行政处罚,所有不实信息被责令删除。南都调查揭露AI造谣产业链,专家提出个人、平台、技术、监管四维共治框架。
7月11日,四川遂宁射洪市警方通报了一起颇具代表性的案例:一名女子利用人工智能技术批量编造虚假信息,并在网络社群和自媒体平台大肆传播。更令人咋舌的是,她的“造谣生意”持续了将近一年,最终被公安机关依法行政处罚,所有不实信息也被责令删除。
这起案件的主角董某,初衷很简单——赚点外快。但她的操作方式,却暴露了AI技术被滥用的一个典型路径:用AI工具批量生成博人眼球的虚假文案,然后在多个平台疯狂扩散。从案发到处置,整个过程其实并不复杂,但背后折射出的问题,值得深思。

相关谣言内容已被辟谣,但警方的提醒值得反复强调:网络不是法外之地,AI技术绝非造谣传谣的“挡箭牌”。所有网民都应守住底线,不造谣、不信谣、不传谣,理性使用网络,共同维护清朗的空间。
这类案例并非孤例。南都记者此前曾对AI造谣牟利乱象进行过深度调查。实测发现,网上存在大量免费的“AI写作神器”和“视频生成器”,只需输入简单指令,就能瞬间生成涉及汛情、火灾等敏感主题的虚假文案。甚至,只要给AI一个“正式警情通报”的模板,它就能模仿最新的口吻,编造出以假乱真的细节。更离谱的是,一张普通景区照片,经过AI处理,就能变成一段“桥梁断裂事故”的视频。

面对海量AI生成的内容,暨南大学网络空间安全学院教授夏志华提出了一个“四维共治”的框架。这个框架的核心逻辑是:个人、平台、技术、监管,四个环节缺一不可。对个人而言,需要提升媒介素养,主动核验可疑信息,尽量切断传播链;对平台来说,责任最重——需要部署AI检测系统,对生成内容强制标识,同时建立“技术筛查+人工复核+用户举报”的机制,并对造假账号实施信用惩戒;技术社区则应研发更强大的鉴伪模型,并把前沿成果公开共享;监管部门则需完善立法,严打跨境虚假信息犯罪。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。















