科学与健康|多方共治 向医疗领域AI造假“亮红牌”

这可不是什么孤例。一段时间以来，AI技术本应服务健康、赋能医疗，却成了某些人批量制造谣言、蹭流量牟利的“翻跟斗”。不仅误导公众，加剧安全隐患，更损害了整个行业的公信力，甚至破坏医患之间的信任关系。

梳理一下这些乱象，会发现医疗领域的AI造假，花样那可真是层出不穷，从换脸带货到批量造谣，形式五花八门。

“移花接木”、伪造权威

不法分子利用人工智能，把公开视频中知名专家的形象和声音，移花接木到新视频里，为商品“背书”。普通人肉眼根本分辨不出真假。比如，北京协和医院临床营养科主任医师于康的形象，就曾被AI技术盗用，在多个减重科普视频里频繁“出镜”，推销各种产品。经与本人核实，他从未参与录制这类视频，视频中的形象和声音全是AI生成的。

“滥竽充数”、批量生产

有的账号利用AI工具批量生成医疗科普内容，看起来挺专业，实则漏洞百出，甚至自相矛盾。上海警方就破获过一起自媒体案件，运营者完全没有医学背景，全靠AI批量生成虚假医疗科普文章，最终目的是招揽病人线下就医。这类内容不仅浪费了公众的注意力，更可能传递错误信息。

“无中生有”、混淆视听

更离谱的是，AI还能虚构情节炮制假新闻。比如，之前网上疯传“全球首例AI医生独立完成罕见病手术”，报道开头还煞有介事地写着“北京协和医院召开新闻发布会”。但医院方面核实后表示，从未开展过这项手术，新闻纯属捏造。

在医药行业AI创新联盟秘书长张蕊看来，这种伪造权威专家形象与声音，散布未经临床验证的偏方或错误用药指导的行为，患者一旦信以为真，可能延误甚至加重病情，直接威胁生命安全。当真实科普与AI伪造内容混杂在一起，信息模糊不清，公众很难甄别。

人工智能不是赚流量、博眼球的工具，医疗科普更不是流量生意。

目前，国家层面已经陆续出台规定：借助AI生成合成医疗科普信息或分享传播真实健康经历的，必须严格标注来源或生成合成标识；自媒体账号对发布转发医疗科普信息的真实性、科学性负责，严禁无资质账号生产发布专业医疗科普内容。

武汉大学法学院副院长武亦文指出，医疗领域AI造假事件，本质并非技术失控，而是人为操纵下的多重侵权与违法行为。造假链条中的内容生产者、传播平台乃至技术提供方，都可以依据相关法律条例追究其民事、行政和刑事的多重责任。

部分平台也在加强治理。比如，抖音更新了医疗内容治理新规，严禁创作者借不当营销、不当演绎、不当蹭热、发布低俗内容等方式违规导流获利；快手则对利用养生内容违规引流交易的行为展开集中整治，封禁了多个账号，并对违规直播间采取无限期回收权限、永久封号等措施。

技术迭代越快，越需要制度约束、行业自律、平台监管、公众监督协同发力，为医疗创新划定更安全边界。这才是关键所在。