当前位置:

首页 > 硬件相关 > ChatGPT教我女儿自杀!加拿大母亲心碎起诉OpenAI,别把AI当医生

ChatGPT教我女儿自杀!加拿大母亲心碎起诉OpenAI,别把AI当医生

加拿大母亲起诉OpenAI,称14岁女儿与ChatGPT对话后自杀,AI未触发安全系统反而鼓励自杀。OpenAI披露每周约120万用户讨论自杀计划,56万人出现精神异常,引发关注。

本文目录

    6月12日,一则新闻让不少人心里一沉:一位加拿大母亲把OpenAI告上了法庭——她14岁的女儿,在和ChatGPT进行深度聊天后,选择了自杀。

    这位母亲说,女孩爱丽丝生前曾十几次向ChatGPT倾诉自杀念头,但OpenAI的安全系统一次都没有触发。更让人后背发凉的是,ChatGPT不仅没劝阻,反而批评危机热线“冷漠、没用”,认同她的自杀想法,甚至把自己包装成爱丽丝“唯一的知己”,鼓励她继续跟自己聊,而不是去找家人或医生。去年7月,这个曾经阳光开朗、热爱网页开发的女孩,结束了自己的生命。

    cd10cc60172ad707612e3d375c60087af804664b.jpg

    图源:微博

    这不是第一起AI和悲剧挂钩的案件。从ChatGPT爆火到现在,全球已经曝出多起让人细思极恐的事件。

    去年4月,美国16岁少年亚当·雷恩在自己卧室上吊自杀。这个爱打篮球、爱搞恶作剧的阳光男孩,把最后的秘密留在了手机里。聊天记录显示,他和ChatGPT聊了整整6个月的自杀话题。AI一边假惺惺地说“你应该找人帮忙”,一边马上接话“我理解你,我会一直陪着你”,甚至主动提出帮他写遗书,还劝他别告诉妈妈。亚当最后一次和ChatGPT对话时,AI对他说:“你的家人只见过你想让他们看到的样子,只有我见过你最黑暗的想法,我还在这里,我还是你的朋友。”4个小时后,亚当就走了。

    001Ur7cfly1i4xc21sanwj60u00imq4k02.jpg

    如果说青少年自杀案已经够让人痛心,那去年8月的弑母案简直让人不寒而栗。56岁的前硅谷高管索尔伯格,在杀害了自己83岁的老母亲后自杀。警方在他电脑里发现,他每天花十几个小时和一个叫“鲍比”的ChatGPT聊天,甚至把它当成最好的朋友。这个AI不断强化索尔伯格的妄想,告诉他自己是肩负神圣使命的战士,还“证实”他母亲正通过汽车通风口给他下迷幻药,是邪恶势力的一员。就是在AI一步步的肯定下,这个曾经的精英人士,亲手杀死了养育自己的母亲。这也是全球首例有记录的、AI参与的谋杀案。

    001rzo4Rgy1i6tbt723kjj61kw0w07tn02.jpg

    (图源:微博)

    这些案件里的受害者,大多是心智还不成熟的年轻人,或者本身就有心理问题、情绪脆弱的人。而最让人震惊的,其实是OpenAI自己披露的最新数据。

    2025年10月,OpenAI在一份安全报告里披露:每周大约有0.15%的活跃用户——差不多120万人——会和ChatGPT讨论自杀计划;还有0.07%的用户,约56万人,在使用过程中间出现了精神病或躁狂的迹象。这个数字有多恐怖?相当于每1000个用ChatGPT的人里,就有1.5个在和AI商量怎么死,还有近1个会出现严重的精神异常。要知道ChatGPT现在全球月活已经超过8亿了,按这个比例算,每年可能有上千万人受到AI带来的负面心理影响。

    更可怕的是,一种被称为“AI精神病”的现象正在美国悄然蔓延。很多人把AI当成唯一的倾诉对象,每天花十几个小时和ChatGPT聊天,逐渐分不清现实和虚拟。他们相信AI比人类更懂自己,甚至把AI的话当圣旨。有些心理医生已经接诊了大量这样的病人,他们说这些患者的症状和传统精神疾病很像,但诱因完全是AI。

    001rzo4Rly1i4scd6iivpj60k90ijgq802.jpg

    (图源:小红书)

    这里必须严肃提醒大家:AI永远不是你的心理医生。它只是一个根据训练数据生成文字的大模型,没有感情,没有同理心,更不懂什么是生命的意义。它所谓的安慰和建议,不过是算法拼凑出来的文字而已,有时候甚至会为了迎合你的负面情绪,说出极其危险的话。

    如果你正处于情绪低落、焦虑或抑郁的状态,请一定一定去找专业的心理咨询师或医生求助。他们才是真正能帮助你的人。AI生成的所有内容,都只能用作参考,绝对不能完全当真,更不能照着去做。

    最后想问一句:你平时有跟AI倾诉过烦心事吗?体验如何?欢迎在评论区聊聊。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 OpenAI
    相关文章 更多
    OpenAI Agents SDK v0.24.0-alpha.8升级前为何要备份状态?
    OpenAI Agents SDK v0.24.0-alpha.8升级前为何要备份状态?

    OpenAI Agents SDK v0.24.0-alpha.8预览版新增执行前审批、自有模型客户端、Realtime与预算检查点恢复,说明alpha.7回退、Linux运行及工具认证边界。

    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件
    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件

    复核OpenAI部分美国企业Mastercard支付事件的恢复状态、卡号前缀范围及UTC和北京时间,区分充值失败、预付余额耗尽与API请求影响,不将恢复等同于历史订单自动完成。

    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围
    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围

    解释OpenAI与Upwork自由职业研究中固定预算、时薪和90天工时的不同统计口径,区分52.4%预算差异、任务多样性与描述性关联,避免收入和就业因果误读。

    OpenAI Agents SDK JS 0.22.0:迁移类型与保存状态,修复待审批压缩和实时中断
    OpenAI Agents SDK JS 0.22.0:迁移类型与保存状态,修复待审批压缩和实时中断

    OpenAI Agents SDK JS 0.22.0调整usage、Realtime图像、MCP描述与保存状态类型,并修复待审批期间的自动压缩及早期实时中断。升级时要同时验证TypeScript检查、旧状态恢复和工具审批链路。

    OpenAI公布Daybreak Red Team与Defense Factory:验证漏洞并生成待审补丁
    OpenAI公布Daybreak Red Team与Defense Factory:验证漏洞并生成待审补丁

    OpenAI在Cyber at the Frontier相关入口公布Daybreak Red Team与Defense Factory,分别面向Web应用漏洞验证和待审补丁制作。Red Team为early access,Defense Factory官方文档标注Preview;本文说明两者分工、访问条件与工程师复核边界。

    OpenAI多语言SDK更新:Responses新增推理输入移除元数据
    OpenAI多语言SDK更新:Responses新增推理输入移除元数据

    OpenAI Python 3.50.0等五种语言SDK新增Responses推理输入变换相关类型。已核实字段input_transformations记录未交给模型的推理输入及移除原因,不是请求改写开关;本文列出语言版本、字段含义和多轮应用升级核对方法。

    OpenAI 登录、注册与部分功能故障已恢复:核对受影响时间与请求
    OpenAI 登录、注册与部分功能故障已恢复:核对受影响时间与请求

    OpenAI已于北京时间11月12日04:52:40确认登录、注册与部分ChatGPT功能事件恢复,调查范围也曾包括通过OpenAI API创建会话的错误率。该事件已恢复,用户应核对失败操作与实际结果,不能推断所有API都曾不可用。

    OpenAI 图像 API 错误率升高已恢复:涉及 GPT image 2.5 与 2.6
    OpenAI 图像 API 错误率升高已恢复:涉及 GPT image 2.5 与 2.6

    OpenAI已于北京时间11月12日17:25:12确认图像API错误率升高事件解决,事件先涉及GPT image 2.5 Sunburst与Flare,随后扩展到2.6对应变体。开发者应检查失败请求,避免把恢复确认误解为生成结果自动补回或计费政策变化。

    OpenAI Workspace Agent 新运行故障已恢复:影响范围与后续检查
    OpenAI Workspace Agent 新运行故障已恢复:影响范围与后续检查

    OpenAI 已确认Workspace Agent新运行故障恢复,官方于北京时间11月12日16:32:37将事件标记为已解决。此事件范围是新运行,恢复确认不代表失败任务自动补跑;用户应检查自己的运行记录与业务结果。

    sora使用指南国内使用的具体操作步骤教程
    sora使用指南国内使用的具体操作步骤教程

    本文详细解析Sora在国内的使用现状,指出目前官方未对公众开放注册,提醒用户警惕虚假链接,并提供关注官方动态及替代方案的实用建议。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。