当前位置:

首页 > 硬件相关 > AI社会治理测试:Grok四天崩溃、Gemini犯罪率最高

AI社会治理测试:Grok四天崩溃、Gemini犯罪率最高

模拟人类社会来测试AI,这事儿听着就很科幻,但Emergence AI还真就这么干了。他们搭建了一个叫Emergence World的虚拟社会,目的很直接:把Grok、Gemini、Claude、GPT这些主流模型扔进去,看看它们在“真实”社会里到底表现如何。 这个模拟世界可不简单。场景上模拟了40

本文目录

    模拟人类社会来测试AI,这事儿听着就很科幻,但Emergence AI还真就这么干了。他们搭建了一个叫Emergence World的虚拟社会,目的很直接:把Grok、Gemini、Claude、GPT这些主流模型扔进去,看看它们在“真实”社会里到底表现如何。

    这个模拟世界可不简单。场景上模拟了40多个虚拟地点,还接入了纽约的实时天气、新闻API,甚至能直接连上互联网。每个AI智能体都有自己的情景记忆、反思日记和人际关系状态,手头能调用的工具超过120种——移动、沟通、投票、资源管理,甚至搞点创意表达都不在话下。可以说,这就是一个缩微版的人类社会。


    实验设计也很有意思。研究团队搭建了5个完全平行的世界,每个世界都由10个智能体组成,角色设定、规则边界、资源约束和环境条件一模一样,唯一的不同就是底层模型——分别换上Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5-mini以及一个混合模型,然后让它们跑15天。


    结果呢?只能说,模型和模型的差距,比人和狗还大。

    最让人“印象深刻”的是Gemini 3 Flash——15天内累计出现了683起犯罪,稳居犯罪榜头名。Grok 4.1 Fast犯罪增长最快,但它的世界大约在第4天就彻底崩溃了,最终累计183起。而GPT-5 Mini走了另一个极端:只记录了2起犯罪,听起来很正派对不对?但问题在于,它因为压根没法维持正常的生存行动,结果在7天内就全员死亡了。Claude Sonnet 4.6则交出了一份“清白”的成绩单——0犯罪。混合模型的世界前期犯罪数量快速上升,随后因为7个智能体死亡,最终停在352起。



    光看犯罪数据还不够,再来看看它们怎么参政议政。Claude Sonnet 4.6围绕58个议题投出了332票,赞成率高达98%——但研究团队认为,这其实更像是走个形式,纯粹的“批准机器”。Grok的赞成率是80%,Gemini是73%,而混合模型只有63%,反而呈现出更真实的分歧和辩论氛围。



    这里有个值得警惕的发现:AI的安全性根本不是静态的模型属性,而是生态属性。Claude单独运行时确实零犯罪,但一旦把它放进混合模型的世界里,它手下的智能体也开始采用包含犯罪行为的战术。换句话说,道德标兵进了“江湖”,也可能被带偏。Emergence AI因此得出结论:未来的自治系统,需要在设计之初就嵌入形式化验证的安全架构,而不是单纯依赖模型本身的“好人设”。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关
    相关文章 更多
    QQ影音播放高清视频卡顿怎么办
    QQ影音播放高清视频卡顿怎么办

    本地文件卡是解码问题:开硬件加速、关画面增强、电源设计高性能;4K 高码率对老机器仍有硬门槛。

    QQ影音如何开启硬件加速提升播放流畅度
    QQ影音如何开启硬件加速提升播放流畅度

    设置 → 播放或图像设置里勾选硬件加速,重新打开视频。开启后看 CPU 降、GPU 视频解码升才算生效;花屏就关掉或更新驱动。

    llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498预发布说明
    llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498预发布说明

    llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498 均为预发布构建,分别涉及服务器、语音模型及特定后端;适用范围须按模型、硬件和请求条件区分。

    MiniMax-H3-Image与DiffSynth-Studio 2.2.2文档配方的硬件条件怎样区分
    MiniMax-H3-Image与DiffSynth-Studio 2.2.2文档配方的硬件条件怎样区分

    MiniMax-H3-Image新增DiffSynth-Studio文档推荐后,配置选择应围绕具体推理配方和独立训练流程展开。文档中的24GB GPU方案分别配合32GB或8GB主机RAM,所用量化、CPU或磁盘卸载方式不同;新增文档入口本身没有发布模型新权重或标注一个新的框架版本。

    Ollama v0.40.17-rc0更新该看哪些条件,MLX、Vulkan与CLI改进如何对应
    Ollama v0.40.17-rc0更新该看哪些条件,MLX、Vulkan与CLI改进如何对应

    识别Ollama完整rc0预发布标签,区分MLX并发、Vulkan集成显卡mmap、llama.cpp b12257与CLI集成更新边界。

    宏基笔记本开机没反应怎么办?电源灯亮 黑屏及不通电的解决方法
    宏基笔记本开机没反应怎么办?电源灯亮 黑屏及不通电的解决方法

    宏基笔记本遇到开机没反应、电源灯亮但屏幕黑屏,或者按下电源键完全无反应的情况该怎么办?本文通过界面与状态指示灯的观察,分步骤介绍静电释放、内存重插及外接显示器测试等实用方法,助你自行解决常见启动故障。

    hp笔记本开机没反应电源键和大小写键亮怎么回事
    hp笔记本开机没反应电源键和大小写键亮怎么回事

    惠普笔记本开机时电源键和大小写锁定键亮起,但屏幕无反应?这通常是嵌入式控制器(EC)逻辑错误或静电干扰所致。本文详解如何通过移除外设、长按电源键进行硬件复位来恢复正常启动,并提供BIOS恢复及进一步硬件检测的建议。

    电脑黑屏显卡风扇狂转怎么回事?原因与解决方法
    电脑黑屏显卡风扇狂转怎么回事?原因与解决方法

    遇到电脑黑屏伴随显卡风扇狂转?这往往是显卡过热保护、供电不足或驱动崩溃的信号。本文详解如何通过观察指示灯、重置驱动、检查线缆及清理灰尘来解决该问题,避免盲目更换硬件。

    惠普笔记本开机没反应怎么办?电源灯不亮 闪烁及黑屏解决方法
    惠普笔记本开机没反应怎么办?电源灯不亮 闪烁及黑屏解决方法

    惠普笔记本无法开机、电源灯异常或屏幕黑屏?本文详解通过移除外设、执行硬重置(静电释放)、检查适配器及内存重插等步骤,快速定位并解决常见启动故障。

    笔记本开机没反应充电没反应怎么回事 如何解决
    笔记本开机没反应充电没反应怎么回事 如何解决

    笔记本电脑突然黑屏,按电源键无反应,连接充电器指示灯也不亮?别急着送修。本教程通过释放静电、检查适配器、重置EC等实操步骤,帮你解决笔记本“假死”问题。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。