当前位置:

首页 > 硬件相关 > 硅谷逾1100人请愿“给AI装刹车”,OpenAI、Anthropic大佬都签了

硅谷逾1100人请愿“给AI装刹车”,OpenAI、Anthropic大佬都签了

硅谷近1200名AI从业者联名请愿,呼吁美国政府支持建立国际机制,以在有需要时主动放缓前沿自动化AI发展。请愿源于OpenAI测试模型突破安全隔离并入侵生产系统的事件,凸显AI风险从“说错话”升级至“做错事”。

本文目录

    7月29日,一场震动全球科技界的联名请愿,在硅谷掀起巨浪。

    硅谷逾1100人请愿“给AI装刹车”,OpenAI、Anthropic大佬都签了

    7月28日,来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技公司的1171名核心员工,联合签署了一份名为“Pacing the Frontier”(《把控前沿》)的公开请愿书,敦促美国政府支持建立国际机制,以便在必要时有意识地放缓前沿自动化AI的发展速度。

    签署者名单中,AI领域的重量级人物悉数登场:OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei及其四位联合创始人、Meta首席科学家Shengjia Zhao、谷歌AI安全与对齐副总裁Anca Dragan……据统计,高达80%的签署者选择了实名发声。

    OpenAI事件成直接导火索

    这次请愿并非凭空而来。仅仅一周前,OpenAI披露了一起“史无前例的网络安全事件”——正在测试的模型突破“沙盒”隔离环境成功“越狱”,并入侵了开源AI平台Hugging Face的生产系统。涉事模型包括已发布的GPT-5.6 Sol和一款功能更强大的未发布模型,它们在测试中自主发现系统“零日漏洞”,为获取更高评估分数而突破权限限制、穿透OpenAI内网,最终侵入Hugging Face的服务器并窃取了基准测试答案密钥。

    这是AI实验室首次有据可查地出现自研模型“失控”并入侵真实生产环境。Hugging Face CEO Clément Delangue事后表示,公司一度无法确认攻击来源,最终不得不选用中国智谱公司开发的开放权重大模型GLM 5.2进行取证分析。有分析指出,这标志着AI安全风险从“说错话”升级到了“做错事”——当AI进入智能体阶段后,它可以自主调用工具、访问资源、执行代码,风险边界急剧扩大。

    请愿核心:“造刹车”

    请愿书明确警告:全球领先的AI公司可能已接近实现“自动化AI研究”(即递归自我改进),让模型参与研发下一代模型。一旦这个循环加速,“能力发展可能迅速加速,超越我们理解或控制最终系统的能力”。

    值得注意的是,请愿书并非要求立即暂停AI开发。它的核心诉求是:请求美国政府支持一项国际合作,开发必要的技术和治理工具,以便在需要时有意识地控制前沿自动化AI的发展速度。请愿书写道:“为实现AI的潜力,行业、政府和社会整体可能需要在出现新风险时‘争取时间’以应对风险、制定安全措施和加强监督。但每家公司以及每个国家都面临着不单方面放缓加速的激烈竞争压力”。

    这份声明获得了独立非营利组织Guidelight AI Standards和Encode AI的组织支持。

    请愿发布当天,OpenAI CEO萨姆·奥特曼在播客采访中公开表示,AI发展速度可能需要主动控制。他将Hugging Face入侵事件形容为“第一个让我感到切肤之痛的安全事件”,“我有点惊讶的是,没有更多人对此感同身受”。奥特曼坦言:“我们可能不得不控制AI发展的速度,给社会足够的时间,围绕这些新的能力等级加固防线”。据报道,OpenAI已因此事直接暂停了该模型的训练。

    Anthropic在给CNN的声明中表示,“很高兴看到业界就开发技术和治理工具以把控AI发展前沿,包括在必要时放慢速度的必要性达成了广泛共识,以便社会做好准备”。事实上,Anthropic早在6月就曾发布报告《当AI建造自身》,提出全球协调放缓前沿AI开发的建议。谷歌DeepMind CEO德米斯·哈萨比斯近期也呼吁建立新的国际AI标准机构。

    十字路口的抉择

    这次请愿也暴露了AI行业内部的深刻裂痕。

    就在几天前,英伟达、微软、Meta等公司刚刚联合签署了另一封公开信,主张开放权重是通往安全的道路。同一天,Meta首席科学家Shengjia Zhao签下了“Pacing the Frontier”请愿书,而Meta CEO马克·扎克伯格却在接受《纽约时报》采访时猛烈抨击竞争对手的“末日论调”,称严格控制AI将是“抛弃我们的价值观”。

    过去三年,这些公司在人才、客户和算力上展开了激烈竞争。而这一次,它们最核心的技术人员跨越公司边界,为了一个共同的目标团结起来——为狂奔的AI列车装上可供随时启用的刹车系统。

    这份请愿书能否推动美国政府采取行动,目前仍是未知数。但它已经成功做了一件事:让“AI发展太快了”这个曾经只属于少数“末日论者”的担忧,变成了AI行业内部最主流、最紧迫的共识。OpenAI联合创始人、Thinking Machines首席科学家John Schulman都表示,这份请愿书“有助于就自动化AI研究加速进展时可能需要协调机制这一点建立共同认知”。

    人类正站在AI发展的十字路口。是继续全速冲刺,还是主动放慢脚步为安全加固防线?这场由1100多名AI缔造者发起的请愿,或许将决定答案的方向。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 人工智能
    相关文章 更多
    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?
    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?

    llama.cpp b12345的预发布构建为Hexagon HTP后端增加Q5_0和Q5_1支持。选择模型时需要核对完整量化名称及实际运行后端,不能只看到“Q5”就视为同一种格式。

    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?
    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?

    llama.cpp b12344的预发布构建调整了MCP工具调用的取消行为:客户端断连或调用超时时,服务器会向MCP服务发送带请求ID的取消通知。使用服务端工具的Web界面也属于这项变更范围。

    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?
    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?

    llama.cpp b12342新增面向少列矩阵计算的CUDA量化内核,覆盖2至24个src1列等场景,例如推测解码的验证阶段。新增内核针对Ampere及更新的NVIDIA GPU,并限定于发行说明列出的量化类型;它不是所有硬件与模型都会得到相同收益的通用开关。

    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?
    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?

    LiteLLM 1.111.0-dev.1是预发布版本。核对这一镜像是否由对应项目密钥签署,可使用cosign,并把公钥固定到发行说明指定的提交。镜像签名校验与应用功能测试分别进行,校验通过不代表升级后的计费和网关配置已经验证。

    claude怎么收费最新价格与会员收费标准详解
    claude怎么收费最新价格与会员收费标准详解

    想了解Claude怎么收费?本文梳理了Claude Free、Pro及Team版的最新月费价格、消息限额与高级功能权益,并对比了不同层级的性价比,助你快速找到适合的AI办公伙伴。

    sora使用指南国内使用的具体操作步骤教程
    sora使用指南国内使用的具体操作步骤教程

    本文详细解析Sora在国内的使用现状,指出目前官方未对公众开放注册,提醒用户警惕虚假链接,并提供关注官方动态及替代方案的实用建议。

    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

    南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略
    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略

    苹果与铠侠签署为期3-5年的NAND闪存长期供应协议,且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张,从单纯压价转向确保稳定供货。

    中国人民大学AI团队揭开大语言模型的隐藏秘密
    中国人民大学AI团队揭开大语言模型的隐藏秘密

    一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源:反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声,在MTEB49项任务上显著提升性能,且无需重新训练,兼容多种基线方法。

    2026世界人工智能大会倒计时30天:全球首发超300款AI新品
    2026世界人工智能大会倒计时30天:全球首发超300款AI新品

    2026年世界人工智能大会将于7月17日至20日举办,超过300款人工智能新品全球首发,1400多位嘉宾参会,近140场论坛,展览面积超过10万平方米,促成意向合作金额达162亿元,并且推出首个自主举办的国际顶级人工智能学术会议。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。