科学与健康|多方共治医疗领域AI造假

当AI成为造谣“推手”：医疗领域的一场信任危机

7月10日，北京协和医院发布了一则严正声明。内容相当直接：网上流传的“该院多名护士十年间为患者垫付医药费”等情节，都是AI生成的虚假内容。

问题是，这并非孤例。

一段时间以来，本应服务人民健康、赋能医疗事业发展的AI技术，正被一些人活生生地异化为批量制造谣言、蹭流量谋利的“工具”。结果呢？误导公众认知是小事，加剧安全隐患、损害行业公信力、破坏医患关系，才是真正让人头疼的大问题。

梳理一下这些乱象，你会发现，医疗领域的AI造假已经到了“无所不用其极”的地步。从换脸带货到批量造谣，招数翻新，花样百出。

先说第一种：AI换脸冒充专家带货。不法分子利用人工智能技术，把公开视频里知名专家的形象和声音“移花接木”，做进新视频里，硬是给商品“背书”。你就说，这谁能一眼看穿？

比如，北京协和医院临床营养科主任医师于康的形象就被AI技术盗用过。在多个减重科普视频里，他那张脸“频繁出镜”，向公众推销产品。可经本人核实，他压根儿就没参与录制过这类视频——视频里的形象和声音，全是AI伪造出来的。

再说第二种：利用AI批量生成虚假科普内容。有些账号看似在传播医疗知识，其实背后连个有医学背景的人都没有。产出的内容呢？乍一看挺专业，实则漏洞百出，甚至互相矛盾。上海警方就破获过一起自媒体案件：运营者没有医学背景，全靠AI批量生成虚假医疗科普文章，目的只有一个——招揽病人线下就医。

还有第三种：AI虚构情节，炮制假新闻。此前网上流传的“全球首例AI医生独立完成罕见病手术”，报道开头就说“北京协和医院召开新闻发布会”。但医院方面明确表示，根本没有这回事，手术也是子虚乌有。

医药行业AI创新联盟秘书长张蕊直言：“伪造权威专家形象与声音，散布未经临床验证的偏方或错误用药指导，患者信以为真后可能延误甚至加重病情，直接威胁生命安全。”当真实科普与AI伪造内容混杂在一起，信息模糊不清，公众想甄别，难度可想而知。

一句话，人工智能不是赚流量、博眼球的工具，医疗科普更不是流量生意。

针对这种情况，国家层面也在不断加码。比如，借助AI生成的医疗科普信息，必须严格标注来源或合成标识；自媒体账号要对发布、转发医疗科普信息的真实性、科学性负责，严禁无资质账号生产发布专业医疗科普内容。

武汉大学法学院副院长武亦文指出：“医疗领域AI造假事件，本质并非技术失控，而是人为操纵下的多重侵权与违法行为。”造假链条中的内容生产者、传播平台乃至技术提供方，都可以依据相关法律追究民事、行政和刑事多重责任。

与此同时，一些平台也在行动。抖音更新了医疗内容治理新规，严禁创作者借不当营销、不当演绎、不当蹭热、发布低俗内容等方式违规导流获利；快手则对利用养生内容违规引流交易的行为展开集中整治，封禁多个账号，并对违规直播间采取无限期回收权限、永久封号等措施。

技术迭代越快，越需要制度约束、行业自律、平台监管、公众监督协同发力，为医疗创新划定更安全的边界——这才是关键所在。