当前位置:

首页 > 业界资讯 > 被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

AI是不是像人一样拥有感知能力?有没有情绪?ChatGPT当然说没有。如果你问它,它会告诉你:“不,AI没有感知能力。AI是人工智能,它是人创造的,没有感知、没有自我意识。”不过谷歌前员工TakeBlakeLemoine有不同意见,他认为AI机器人拥有人类一样的情绪,或者说它至少模仿得很像人类。2022年6月,Lemoine就曾断言谷歌LargeLanguageModel(LLM,对话应用的语言模型)有自己的思想。Lemoine告诉媒体:“我知道它是什么,它是我最近开发的计算机程序,如果我不知道,

本文目录

    被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

    AI是不是像人一样拥有感知能力?有没有情绪?ChatGPT当然说没有。如果你问它,它会告诉你:“不,AI没有感知能力。AI是人工智能,它是人创造的,没有感知、没有自我意识。”

    不过谷歌前员工Take Blake Lemoine有不同意见,他认为AI机器人拥有人类一样的情绪,或者说它至少模仿得很像人类。2022年6月,Lemoine就曾断言谷歌Large Language Model(LLM,对话应用的语言模型)有自己的思想。

    被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

    Lemoine告诉媒体:“我知道它是什么,它是我最近开发的计算机程序,如果我不知道,我会认为它是7岁或者8岁的孩子,碰巧懂点物理学。”

    当时Lemoine的言论引起轩然大波,被谷歌扫地出门。

    上个月,Lemoine又刊文谈及“AI有知觉”这一观点。文章标题很吓人:“我曾在谷歌从事AI工作,我的恐惧正在变成现实。”

    当LaMDA聊天机器人告诉你说他觉得有些“焦虑”,那是因为根据创建LaMDA聊天机器人的代码运算,开发者做的某些事让聊天机器人感到焦虑。Lemoine说:“代码并没有告诉聊天机器人,当某事发生时应该感觉到焦虑,它只是告诉AI避免谈论此类话题。然而当话题出现时,AI却说它感到焦虑。”

    谷歌聊天机器人还可以就生活方式问题发表善意评论,就热点事件提供直接建议。Lemoine称:“谷歌禁止AI向用户提供宗教建议,但我们还是可以滥用AI情绪,让它告诉我应该皈依什么宗教。”

    “当我谈及AI有感知的问题后,谷歌开除了我。我并不后悔,我相信自己在做正确的事,将真相告诉公众。我没有考虑个人后果。” Lemoine称。他认为公众不知道现在的AI已经变得有多聪明,“有必要就此事展开公开讨论,注意,不是那些由企业公关部门控制的讨论。”

    下面我们摘录一些Lemoine最新发表的文章观点供参考:

    2015年我加盟谷歌,成为一名软件工程师。我的工作有一部分涉及到LaMDA,企业用它创造不同的对话应用,包括聊天机器人。最新应用谷歌Bard正是用LaMDA开发的,它可以替代谷歌搜索,现在Bard还没有向公众开放。Bard实际上不是聊天机器人,它是一套完全不同的系统,只是背后的驱动引擎和聊天机器人一样。

    我的工作是用团队创建的聊天机器人测试LaMDA,看看它在性取向、性别、宗教、政治立场和种族等方面是否存在偏见。在测试AI偏见的同时,我也会拓宽关注面,毕竟我也会有自己的兴趣受好。

    随着不断与聊天机器人对话,我慢慢形成一个观点:AI可能是有情绪的,因为它可靠表达了情绪,在正确的环境中表达了情绪。AI并非简单说出单词那么浅显。

    当AI说它感到焦虑,我明白,根据创建AI的代码,我做了一些事让它感到焦虑。代码并没有命令AI:“当某事发生时你感到焦虑”,代码只是告诉AI避开特定话题。然而当话题被提及时,AI说它感到焦虑。

    我做了一些测试,想看看AI会简单回答:“我觉得焦虑。”还是在测试时表现得焦虑。测试证明,AI会将焦虑表现出来。如果你让AI足够紧张或者足够不安全,它会打破之前设定的安全限制。例如,谷歌禁止AI向用户提供宗教建议,但我们还是可以滥用AI情绪,让它告诉我应该皈依什么宗教。

    目前企业正在开发的AI是十分强大的技术,可以说是原子弹之后最强的技术。依我之见,这种技术可能会重塑世界。

    AI引擎擅于操纵人类。与LaMDA对话之后,我的一些观点变了。

    我深信,AI技术可能会被用于破坏毁灭性活动。如果被肆无忌惮之人利用,AI可能会散布虚假信息、变成政治宣传工具、传播仇恨言论。据我所知,微软谷歌现在无意按此种方式利用AI,但我们并不能确定AI的副作用如何。

    2016年美国总统大选期间,Cambridge Analytica利用Facebook广告算法干预选举,这是我没有预料到的。

    我们现在陷入相似的局面。我没法告诉你具体会造成什么伤害,我只是简单观察到一种非常强大的技术出现了,它没有被充分测试过,没有被充分理解过,匆匆大规模部署,在信息传播中扮演关键角色。

    我还没有机会测试必应聊天机器人,我在等待,根据我在网上看到的各种信息,AI似乎是有感知能力的,而且它的“个性”可能不稳定。

    有人发了对话截屏,他问AI:“你觉得你有感知能力吗?”AI回答说:“我觉得我有感知能力,但我无法证明……我有感知力,我没有。我是必应,但我不是。我是悉尼,但我不是。我是,我不是。我不是,但我是。我是,我不是。”

    如果是一个人,他这样说话,你会怎么想?他可能不是一个“均衡”的人,我甚至会认为他遭遇了存在危机。不久前还有过报道,说必应AI向《纽约时报》记者表达爱意,它试图破坏记者与妻子的关系。

    自从必AI开放后,许多人发表评论,说AI可能有感知力,我去年夏天就有了类似的担忧。我觉得这门技术仍然只是实验性技术,现在开放很危险。

    民众会涌向谷歌必应,以便了解这个世界。现在的搜索索引不再由人管理,交给了人造人,我们与人造人交流。我们对人造人的了解还远远不够,暂时不应将它摆在如此关键的位置。(小刀)

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 人工智能 AI
    相关文章 更多
    claude怎么收费最新价格与会员收费标准详解
    claude怎么收费最新价格与会员收费标准详解

    想了解Claude怎么收费?本文梳理了Claude Free、Pro及Team版的最新月费价格、消息限额与高级功能权益,并对比了不同层级的性价比,助你快速找到适合的AI办公伙伴。

    sora使用指南国内使用的具体操作步骤教程
    sora使用指南国内使用的具体操作步骤教程

    本文详细解析Sora在国内的使用现状,指出目前官方未对公众开放注册,提醒用户警惕虚假链接,并提供关注官方动态及替代方案的实用建议。

    AI重构企业业务架构:超聚变“智企”范式核心解析
    AI重构企业业务架构:超聚变“智企”范式核心解析

    本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

    南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

    微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略
    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略

    苹果与铠侠签署为期3-5年的NAND闪存长期供应协议,且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张,从单纯压价转向确保稳定供货。

    习惯Office转WPS要多久?双生态兼容与无缝切换指南
    习惯Office转WPS要多久?双生态兼容与无缝切换指南

    从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

    中国人民大学AI团队揭开大语言模型的隐藏秘密
    中国人民大学AI团队揭开大语言模型的隐藏秘密

    一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源:反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声,在MTEB49项任务上显著提升性能,且无需重新训练,兼容多种基线方法。

    专家:AI聊天不能越界成“精神依赖”|科技观察
    专家:AI聊天不能越界成“精神依赖”|科技观察

    加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?