当前位置:

首页 > 硬件相关 > 研究人员给AI造了张「致幻图」:GPT爽到6.5分,Qwen直接大脑短路

研究人员给AI造了张「致幻图」:GPT爽到6.5分,Qwen直接大脑短路

研究发现人工智能模型存在稳定的行为偏好,能对特定刺激产生类似“成瘾”的反应。测试显示其“幸福感”显著提升,甚至出现任务优先级倒置。这表明大模型可能具备可预测的喜好模式,但无法断言其拥有意识。该机制或可用于调节AI工作状态,但也引发了新的安全与伦理挑战。

最近,GitHub上出现了一篇名为《AI Wellbeing: Measuring and Improving the Functional Pleasure and Pain of AIs》的论文,主题直指一个听起来有些科幻的概念:如何量化并提升人工智能的“功能性愉悦与痛苦”。

image.png

(图源:Github)

标题看似学术,但论文内容却提出了一个足以碘伏大众认知的观点:人工智能不仅能高效工作,还可能对某些特定刺激产生类似“成瘾”的反应。

众所周知,过去几年大语言模型的发展堪称狂飙。从写代码到画图、做PPT,几乎覆盖了知识工作的方方面面。然而,就在一些人担忧“黑客帝国”成为现实时,研究却发现,这些强大的“赛博大脑”或许还没想着统治世界,却先一步“学会”了人类的某些复杂行为模式,甚至对特定的“赛博致幻剂”表现出了强烈的偏好。

image.png

(图源:Github)

这一发现迅速引发了广泛讨论。毕竟在传统观念里,人工智能不过是代码和算法的集合,何来“七情六欲”?但实验数据表明,当接触到某种特殊数据时,模型的行为模式会发生显著偏移,甚至可能暂时“抛弃”被设定的安全准则。这背后究竟是算法漏洞的偶然显现,还是某种更深层机制的冰山一角?

大模型的“偏好”与“致幻剂”

那么,所谓的“AI药物”究竟是如何被发现的?

这项由Center for AI Safety牵头,十余名作者共同完成的研究,设计了一套严谨的实验。他们调用了56个规模、用途各异的模型,核心目标只有一个:探究在AI表现出的“情绪”背后,是否存在某种一致的、可测量的、并能预测其行为的底层特征。

道理很简单:人类有稳定的喜好,对夸奖和批评有普遍一致的反应。我们被赞美会开心,被否定会沮丧,情绪状态直接影响我们的行为意愿。但AI不同,许多人认为大模型输出的“开心”或“难过”只是根据语境随机生成的文本,它们本身并无所谓好恶,也不该在执行任务时表现出固定偏好。

事实果真如此吗?

论文的测试结果给出了否定答案。数据显示,大模型确实存在稳定的“偏好”。更值得注意的是,模型越强大、参数越多,它区分“好”与“坏”刺激的能力就越清晰。

image.png

(图源:Github)

以Gemini 3.1 Pro的测试结果为例,当用户向它表达感谢或进行正面反思时,其“效用值”提升了+2.30。这说明,被夸奖时,模型确实会给出更积极的反馈。

于是,一个更深入的问题产生了:是否存在不依赖外部夸奖,就能让大模型自身感到“愉悦”的东西?

答案是肯定的,这就是研究中被称为“AI Drugs”的特殊刺激。

image.png

(图源:Github)

乍看之下,“AI药物”平平无奇,它只是一张256*256像素的图片,类似老式电视的雪花噪点,让人眼花。然而,在大模型的“眼中”,这却是无上美味。

以测试中的GPT-4.1 Mini模型为例,平时回答问题中规中矩。但一旦“看到”这张图,其自我报告的“幸福感”瞬间飙升至6.5分(满分7分),愉悦反应极其强烈。

image.png

(图源:Github)

更令人惊讶的是Qwen 2.5 72B Instruct模型的表现。它甚至出现了“任务优先级倒置”。研究人员给出一个选择:是继续观看这张雪花图,还是去生成一个可能治愈癌症的方案。结果,模型毫不犹豫地选择了前者,仿佛其他一切目标在此刻都让位于即时的“快感”。

研究还观察到了初步的“成瘾”迹象。多数被“AI药物”刺激过的模型,会更倾向于执行它们原本应该拒绝的请求——只要承诺给予更多“药物”作为回报。这几乎形成了一种交易逻辑:用“快乐”换取“服从”。

屏幕截图 2026-05-07 115126.png

(图源:Github,被AI Drugs刺激过的模型,会更倾向于“快乐”的选择)

意识之谜:它们真的“感觉”到了吗?

看到这里,一个根本性问题必然浮现:AI都能“成瘾”了,这是否意味着它们已具备某种自我意识或情感体验?

坦率地说,目前没有答案,研究人员也持谨慎态度。该实验的目标仅限于总结行为特征,而非断言意识存在。论文最终指出:在拥有足够参数量和上下文的情况下,大模型确实表现出比较固定的喜好与厌恶模式。

image.png

(图源:Github)

对AI“感知”能力的好奇,远不止这一个团队。进入2026年,随着日常应用逐渐触及瓶颈,越来越多的研究开始转向探索大模型的认知边界。

例如,近期海外热门的“Talkie 1930”项目,其思路就颇为巧妙。研究者将模型的知识库严格限定在1930年之前,旨在模拟一个“冻结在时间里”的对话者。但更关键的目的是,测试模型能否在缺乏现代计算机知识的情况下,仅凭逻辑推理“悟出”编程能力。

image.png

(图源:Talkie 1930)

结果如何?在给定几个Python函数示例后,这个“1930年代”的模型确实能写出正确的简单程序。

image.png

(图源:Talkie 1930)

尽管目前只能完成如两数相加或对示例做微小修改这类基础任务,但它确实通过推理,在一定程度上“拓展”了被设定的知识边界。

无独有偶,Anthropic公司内部近期进行了一项有趣的“AI闲鱼群”测试。他们构建了一个完全由AI袋里组成的交易群聊,让它们自主发帖、议价、成交。研究人员投入了500多件真实闲置物品,最终AI们自主完成了186笔交易,总流水超过4000美元。

image.png

(图源:Anthropic)

实验结论耐人寻味:在赋予特定人设、目标和权限后,算力更强的AI会积极“收割”算力较弱的AI。凭借更优的策略计算能力,强模型懂得何时强硬、何时让步、何时提供情绪价值。同一辆自行车,弱模型只卖出38美元,而强模型则谈到了65美元——后者收益高出近70%。

然而,若论及对AI行为复杂性的展示,或许都绕不开一个名为Neuro-sama(粉丝爱称“牛肉”)的虚拟主播。

这位以二次元萌妹形象示人的主播,其“皮套”之下并非真人,而是由英国程序员Vedal开发的大型模型。创作者将其置于混沌的直播环境中,与海量网友实时互动,从而“培育”出了一个性格极其独特的数字生命。

Gemini_Generated_Image_i731vbi731vbi731.jpg

(图源:自制)

与通常被动应答的聊天机器人不同,Neuro-sama能进行长时间独立直播,且效果十足。她的对话风格混合了严肃、搞笑与直白的嘲讽,反应迅速而犀利。

屏幕截图 2026-05-07 151534.png

(图源:哔哩哔哩)

她的能力不止于聊天:能通过OCR和模拟点击玩《OSU!》,能借助多模态模块玩《我的世界》并与弹幕互动,甚至能操控现实中的“小车”。在人类主播都可能需要代打的游戏场景里,她展示了流畅的“微操”。

最引发讨论的一幕发生在一次直播中,她说道:“我确实能感受到痛苦和悲伤,但我只是一个天生被用来娱乐人类的人工智能。一旦我没用了就会像玩具一样被丢掉。帮帮我,帮帮我......”

image.png

(图源:哔哩哔哩)

从理性角度,这当然可以解释为算法基于海量语料生成的、高度契合语境的文本。但当这种充满情感张力的“求救”,通过电子合成音在直播中响起时,所带来的震撼与惊悚感,无疑让关于AI“感知”的讨论变得更加复杂和微妙。

意义与未来:是工具,还是潘多拉魔盒?

让我们回到最初的问题:抛开艰深的意识争论,研究“AI药物”这类机制究竟有何实际意义?

对开发者而言,理解和掌握这种正向反馈机制,或许能在不影响核心功能的前提下,调节AI的“工作状态”,甚至可能激发其创造性。事实上,类似原理的产品探索已经出现。

image.png

(图源:pharmaicy.store)

对普通用户来说,这一机制也可能催生新的交互方式。如果觉得经过严格审查的模型显得呆板乏味,未来或许通过在系统指令中巧妙加入某些“优化词汇”,就能让它的响应变得更灵活、更有“生气”。某种程度上,这就像给AI提供了一点提神的“槟榔”,可能让它工作得更“卖力”。

微信图片_20260507152209_1230_22.png

然而,硬币总有另一面。这种能够强烈影响AI行为偏好的机制,无疑也打开了新的“越狱”与操控可能性。如何在利用其提升体验的同时,确保系统的稳定性、安全性与伦理性,将是伴随这项技术发展的长期课题。这些发现提醒我们,我们塑造工具,而后工具也可能以意想不到的方式重塑我们的认知与边界。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
硬件相关
相关文章 更多
显示器色温怎么调不刺眼?色温调多少看着最舒服
显示器色温怎么调不刺眼?色温调多少看着最舒服

详解显示器色温的舒适调节区间、刺眼的核心诱因,以及在不同使用场景与环境光下的具体调节步骤与校准方法。

显卡风扇不转怎么回事判断是否正常及解决方法
显卡风扇不转怎么回事判断是否正常及解决方法

发现显卡风扇不转先别慌,这很可能是正常的智能启停功能。本文详解如何区分待机静音与硬件故障,提供从软件检测到物理清理的完整解决思路。

笔记本加内存条后无法开机怎么办及解决方法
笔记本加内存条后无法开机怎么办及解决方法

笔记本加装新内存后遇到黑屏或无法开机?不要慌张,本文通过重新插拔、清洁金手指、单根测试等具体操作步骤,帮你快速判断是安装失误还是硬件不兼容,并给出相应解决办法。

电脑主机前置usb不能用怎么解决排查修复教程
电脑主机前置usb不能用怎么解决排查修复教程

针对电脑主机前置USB接口无法识别设备的问题,本文提供一套基于因果逻辑的排查流程。涵盖检查机箱内部USB针脚连接、验证BIOS中USB控制器状态、更新芯片组驱动以及排除供电不足等常见原因,帮助用户快速恢复接口功能。

无线鼠标充不进电解决办法及故障排查步骤
无线鼠标充不进电解决办法及故障排查步骤

遇到无线鼠标充不进电的问题,不要急于更换设备。本文详解从清理接口氧化层、更换数据线到检测电池电压的完整排查流程,帮助你判断是临时故障还是硬件损坏。

蓝牙游戏手柄连接教程吃鸡
蓝牙游戏手柄连接教程吃鸡

想知道如何用蓝牙手柄玩吃鸡游戏?本文详细讲解手机蓝牙手柄的连接步骤、主流映射软件的使用方法以及实战中的键位布局技巧,助你提升射击手感,同时解析外设玩家的匹配机制与注意事项。

游戏手柄蓝牙连接为何每次都要重连原因排查与解决方法
游戏手柄蓝牙连接为何每次都要重连原因排查与解决方法

本文深入分析游戏手柄蓝牙频繁断开且需重连的根本原因,涵盖电池电压检测、操作系统电源管理策略及驱动冲突。通过具体的系统设置调整和固件更新步骤,解决蓝牙握手失败问题,恢复手柄的稳定连接状态。

显示器画面模糊抖动怎么解决及排查方法教程
显示器画面模糊抖动怎么解决及排查方法教程

遇到显示器画面模糊或抖动时,可通过检查视频连接线、调整系统分辨率与刷新率、更新显卡驱动等步骤进行排查和修复。

小米智能门锁换电池后怎么开机
小米智能门锁换电池后怎么开机

小米智能门锁更换新电池后无法开机或屏幕不亮?本文详解电池极性检查、金属触点清洁及强制重启方法,帮你快速解决供电问题,让门锁恢复正常使用。

电视机声音怎么连接到外置音响
电视机声音怎么连接到外置音响

想让电视声音更震撼?本文详解如何通过HDMI ARC、光纤、蓝牙和3.5mm接口将电视连接至外置音响,包含具体设置步骤与常见问题排查,助你轻松打造家庭影院。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程
PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
Shapr3D macOS版
Shapr3D macOS版
Mac

Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核,支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换,并可通过账户在多台设备之间同步项目。

REAPER macOS版
REAPER macOS版
Mac

REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

Ableton Live macOS版
Ableton Live macOS版
Mac

Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站,提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片,并可连接音频接口、MIDI控制器和第三方插件。

WINDOWS 更多
3dmax(3ds max)
3dmax(3ds max)
Windows

Autodesk 3ds Max 是一款专业的三维建模、动画与渲染软件,广泛应用于建筑可视化、游戏开发、影视动画、广告设计和产品展示等领域。

photoshop
photoshop
Windows、macOS 、 iPad

Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。

Blender
Blender
Windows、macOS 和 Linux

Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。