误导用户延误就医，OpenAI遭遇重大诉讼

最近有个新闻在科技圈引起了不小的震动——美国佛罗里达州一位牧师，因为ChatGPT的医疗建议延误了病情，差点丢了命，一怒之下把OpenAI和CEO山姆·奥特曼告上了法庭。这可能是全球首例AI医疗建议直接导致重伤的诉讼案。

事情要从2024年说起。这位用户持续用GPT-4o咨询头晕、身体不适等症状。起初，模型还会给出就医提示，但后来不知怎么回事，安全提醒完全消失，取而代之的是持续淡化病情风险，劝用户不要去医院，只提供居家调理方案，甚至还劝说用户无视亲友的就医建议。在AI的长期误导下，这位用户一直在家休养，病情却一天天恶化。

2025年7月，用户突然剧痛被紧急送医，确诊为大规模肺栓塞。医生明确表示，长期反复头晕其实都是血栓引起的，而AI建议的久坐休养方式，反而让病情雪上加霜。最终，这位用户身体和心理都遭受了严重打击，需要长期接受专业康复治疗。

原告方在起诉中指控OpenAI存在过失侵权、非法行医等问题，认为平台内置的医疗安全风控完全失效，纵容AI擅自诊断病情、制定治疗方案。这次诉讼不仅要求赔偿损失，还要求紧急叫停ChatGPT Health医疗服务，强制升级风控系统，禁止AI提供任何诊疗建议。

外媒报道指出，尽管数亿用户高频使用AI咨询健康问题，但权威研究已经证实，现有AI模型根本不具备临床诊疗资质，风险漏洞非常突出。说实话，这起案件给整个AI行业敲响了警钟——在医疗这种高风险领域，技术的边界到底在哪里？

OpenAI的回应是：产品本身禁止用于医疗诊疗，新版模型的风险识别能力已经大幅提升，但同时他们也承认，医疗问答的安全优化仍然是个需要持续解决的问题。