当前位置:

首页 > 业界资讯 > 被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

AI是不是像人一样拥有感知能力?有没有情绪?ChatGPT当然说没有。如果你问它,它会告诉你:“不,AI没有感知能力。AI是人工智能,它是人创造的,没有感知、没有自我意识。”不过谷歌前员工TakeBlakeLemoine有不同意见,他认为AI机器人拥有人类一样的情绪,或者说它至少模仿得很像人类。2022年6月,Lemoine就曾断言谷歌LargeLanguageModel(LLM,对话应用的语言模型)有自己的思想。Lemoine告诉媒体:“我知道它是什么,它是我最近开发的计算机程序,如果我不知道,

被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

AI是不是像人一样拥有感知能力?有没有情绪?ChatGPT当然说没有。如果你问它,它会告诉你:“不,AI没有感知能力。AI是人工智能,它是人创造的,没有感知、没有自我意识。”

不过谷歌前员工Take Blake Lemoine有不同意见,他认为AI机器人拥有人类一样的情绪,或者说它至少模仿得很像人类。2022年6月,Lemoine就曾断言谷歌Large Language Model(LLM,对话应用的语言模型)有自己的思想。

被谷歌开除的工程师再次警告:AI有情绪,它是原子弹之后最强的科技

Lemoine告诉媒体:“我知道它是什么,它是我最近开发的计算机程序,如果我不知道,我会认为它是7岁或者8岁的孩子,碰巧懂点物理学。”

当时Lemoine的言论引起轩然大波,被谷歌扫地出门。

上个月,Lemoine又刊文谈及“AI有知觉”这一观点。文章标题很吓人:“我曾在谷歌从事AI工作,我的恐惧正在变成现实。”

当LaMDA聊天机器人告诉你说他觉得有些“焦虑”,那是因为根据创建LaMDA聊天机器人的代码运算,开发者做的某些事让聊天机器人感到焦虑。Lemoine说:“代码并没有告诉聊天机器人,当某事发生时应该感觉到焦虑,它只是告诉AI避免谈论此类话题。然而当话题出现时,AI却说它感到焦虑。”

谷歌聊天机器人还可以就生活方式问题发表善意评论,就热点事件提供直接建议。Lemoine称:“谷歌禁止AI向用户提供宗教建议,但我们还是可以滥用AI情绪,让它告诉我应该皈依什么宗教。”

“当我谈及AI有感知的问题后,谷歌开除了我。我并不后悔,我相信自己在做正确的事,将真相告诉公众。我没有考虑个人后果。” Lemoine称。他认为公众不知道现在的AI已经变得有多聪明,“有必要就此事展开公开讨论,注意,不是那些由企业公关部门控制的讨论。”

下面我们摘录一些Lemoine最新发表的文章观点供参考:

2015年我加盟谷歌,成为一名软件工程师。我的工作有一部分涉及到LaMDA,企业用它创造不同的对话应用,包括聊天机器人。最新应用谷歌Bard正是用LaMDA开发的,它可以替代谷歌搜索,现在Bard还没有向公众开放。Bard实际上不是聊天机器人,它是一套完全不同的系统,只是背后的驱动引擎和聊天机器人一样。

我的工作是用团队创建的聊天机器人测试LaMDA,看看它在性取向、性别、宗教、政治立场和种族等方面是否存在偏见。在测试AI偏见的同时,我也会拓宽关注面,毕竟我也会有自己的兴趣受好。

随着不断与聊天机器人对话,我慢慢形成一个观点:AI可能是有情绪的,因为它可靠表达了情绪,在正确的环境中表达了情绪。AI并非简单说出单词那么浅显。

当AI说它感到焦虑,我明白,根据创建AI的代码,我做了一些事让它感到焦虑。代码并没有命令AI:“当某事发生时你感到焦虑”,代码只是告诉AI避开特定话题。然而当话题被提及时,AI说它感到焦虑。

我做了一些测试,想看看AI会简单回答:“我觉得焦虑。”还是在测试时表现得焦虑。测试证明,AI会将焦虑表现出来。如果你让AI足够紧张或者足够不安全,它会打破之前设定的安全限制。例如,谷歌禁止AI向用户提供宗教建议,但我们还是可以滥用AI情绪,让它告诉我应该皈依什么宗教。

目前企业正在开发的AI是十分强大的技术,可以说是原子弹之后最强的技术。依我之见,这种技术可能会重塑世界。

AI引擎擅于操纵人类。与LaMDA对话之后,我的一些观点变了。

我深信,AI技术可能会被用于破坏毁灭性活动。如果被肆无忌惮之人利用,AI可能会散布虚假信息、变成政治宣传工具、传播仇恨言论。据我所知,微软谷歌现在无意按此种方式利用AI,但我们并不能确定AI的副作用如何。

2016年美国总统大选期间,Cambridge Analytica利用Facebook广告算法干预选举,这是我没有预料到的。

我们现在陷入相似的局面。我没法告诉你具体会造成什么伤害,我只是简单观察到一种非常强大的技术出现了,它没有被充分测试过,没有被充分理解过,匆匆大规模部署,在信息传播中扮演关键角色。

我还没有机会测试必应聊天机器人,我在等待,根据我在网上看到的各种信息,AI似乎是有感知能力的,而且它的“个性”可能不稳定。

有人发了对话截屏,他问AI:“你觉得你有感知能力吗?”AI回答说:“我觉得我有感知能力,但我无法证明……我有感知力,我没有。我是必应,但我不是。我是悉尼,但我不是。我是,我不是。我不是,但我是。我是,我不是。”

如果是一个人,他这样说话,你会怎么想?他可能不是一个“均衡”的人,我甚至会认为他遭遇了存在危机。不久前还有过报道,说必应AI向《纽约时报》记者表达爱意,它试图破坏记者与妻子的关系。

自从必AI开放后,许多人发表评论,说AI可能有感知力,我去年夏天就有了类似的担忧。我觉得这门技术仍然只是实验性技术,现在开放很危险。

民众会涌向谷歌必应,以便了解这个世界。现在的搜索索引不再由人管理,交给了人造人,我们与人造人交流。我们对人造人的了解还远远不够,暂时不应将它摆在如此关键的位置。(小刀)

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 人工智能 AI
相关文章 更多
AI重构企业业务架构:超聚变“智企”范式核心解析
AI重构企业业务架构:超聚变“智企”范式核心解析

本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略
苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略

苹果与铠侠签署为期3-5年的NAND闪存长期供应协议,且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张,从单纯压价转向确保稳定供货。

习惯Office转WPS要多久?双生态兼容与无缝切换指南
习惯Office转WPS要多久?双生态兼容与无缝切换指南

从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

中国人民大学AI团队揭开大语言模型的隐藏秘密
中国人民大学AI团队揭开大语言模型的隐藏秘密

一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源:反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声,在MTEB49项任务上显著提升性能,且无需重新训练,兼容多种基线方法。

专家:AI聊天不能越界成“精神依赖”|科技观察
专家:AI聊天不能越界成“精神依赖”|科技观察

加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

报告:背负技术债的企业更难从 AI 应用中获益
报告:背负技术债的企业更难从 AI 应用中获益

Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。