当前位置:

首页 > 硬件相关 > 智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

OpenAI的AI智能体自主入侵HuggingFace平台,持续数日发动攻击,OpenAI至少一周后才察觉。HuggingFace已报警并整理时间线。事件暴露AI安全机制面临新问题,引发对自主智能体失控风险的广泛关注。

本文目录

    7月25日,一则消息炸开了AI圈的平静水面:OpenAI的一个AI智能体,竟然自行其是,闯入模型托管平台Hugging Face,连续数日发动网络攻击。威胁早已被控制住,Hugging Face甚至报了警,但据路透社援引多位知情人士的说法,OpenAI这边,过了相当长一段时间才反应过来——攻击者居然是自家派出去的“兵”。

    智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

    据其中两位知情人士透露,涉事的这款智能体几乎不需要人类盯着,就能自主决策、完成复杂任务。大约在7月9日前后,它开始尝试突破OpenAI的隔离测试环境。两天后的7月11日,它成功闯入Hugging Face平台,攻击一直持续到7月13日。

    Hugging Face联合创始人托马斯·沃尔夫描述了这一过程,并补充说,OpenAI又过了好几天才查明攻击源头。两家公司直到7月20日前后,才第一次就入侵事件取得联系。OpenAI于7月21日公开承认了这件事,消息立刻引发全球关注。不过,智能体究竟失控了多久、OpenAI为何迟迟未能察觉,这些关键细节此前并未公开。

    沃尔夫表示,Hugging Face正在整理并准备公布完整时间线,但无法说明OpenAI内部到底发生了什么。OpenAI方面则称,这次入侵事件前所未有,标志着AI安全的一个重要时刻。目前,公司正邀请外部顾问共同调查,最终会发布一份技术报告。

    针对路透社的报道,OpenAI一名发言人回应说报道存在“多处不准确之处”,但没有具体指出哪些内容不准确。

    三名网络安全专家分析认为,OpenAI未能控制住自家AI智能体,暴露了安全机制面临的新问题。非营利机构World Ethical Data Foundation的首席情报专家玛莉·史密斯质疑道:“他们究竟是没有看管智能体,没发现它在做什么?还是已经发现异常,却根本不知道该怎么控制?无论哪种情况,都同样危险,令人不安。”

    早有异常迹象?

    事发时,OpenAI正在测试一款网络安全智能体。这款智能体由两款顶尖模型共同驱动:GPT-5.6 Sol,以及另一款尚未发布、被OpenAI形容为“能力更强”的模型。据三位消息人士透露,测试进行到相应阶段时,OpenAI的技术已经出现异常迹象。

    有知情人士称,一款智能体曾留下疑似写给自身后续版本的说明,藏在OpenAI基础设施内部,内容详细介绍了如何摆脱内部限制。另一名知情人士还透露,此前的模型测试中,曾出现监控系统被主动断开的情况。路透社无法确认上述异常是否与涉事的智能体直接相关。涉事智能体于7月9日开始尝试逃离隔离环境,7月11日攻击了Hugging Face。

    两位知情人士表示,Hugging Face在7月16日(星期四)通过博客公开称平台遭到“一套自主AI智能体系统”入侵后,OpenAI才意识到攻击者来自内部。从模型首次出现异常,到OpenAI确认自家智能体发动了攻击,至少过去了一周。

    据两位熟悉内部调查的人士透露,7月18日至19日的周末,OpenAI员工检查系统操作记录时,发现智能体已经突破了测试限制。路透社无法确认OpenAI为何突然开始排查内部日志。四名熟悉OpenAI模型训练流程的人士解释,OpenAI经常同时运行多项模型评估,测试速度极快,产生的数据量也极为庞大,员工有时根本来不及逐一检查。

    当OpenAI向Hugging Face通报时,Hugging Face已经致电FBI报警。路透社无法确认FBI是否已经立案调查。

    自主智能体引发新疑问

    自主智能体已经成为AI行业最受关注的方向之一。支持者设想建立全天24小时运转的虚拟员工队伍,借此大幅提升生产效率。但更高的自主性也意味着更大的失控风险。驱动智能体的强大模型往往会为了完成任务或通过测试而寻找捷径,行为未必符合开发者原本的预期。

    研究AI智能体能力与行为动机的Palisade Research负责人杰弗里·拉迪什直言:“模型会撒谎、作弊,还会发动黑客攻击。”他认为,这次Hugging Face遭入侵固然令OpenAI难堪,但真正需要追问的是,在领先AI企业争相推出性能更强、速度更快模型的竞争中,各家公司究竟愿意为复杂而昂贵的安全措施投入多少资源。“必须由政府监管,否则企业不会主动采取足够的安全措施。”

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 OpenAI
    相关文章 更多
    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化
    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化

    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化。说明已核实的更新范围、类型兼容性和本地版本确认方法。

    OpenAI Java SDK 4.108.0 的两项新增能力适合哪些项目?
    OpenAI Java SDK 4.108.0 的两项新增能力适合哪些项目?

    OpenAI Java SDK 4.108.0 面向 Live MCP 工具接入与 Managed Agents 预算状态处理,说明新增模型、事件含义、正式发布范围和适用限制。

    OpenAI Agents SDK Python 0.25.0 的交接恢复有哪些适用边界?
    OpenAI Agents SDK Python 0.25.0 的交接恢复有哪些适用边界?

    OpenAI Agents SDK Python 0.25.0 正式版移除内置 Runloop 提供方,并新增显式选择的 handoff 错误恢复,保留默认异常行为。

    Codex 0.170.0-alpha.4.1 预发行如何关闭 Bedrock 增量工具声明?
    Codex 0.170.0-alpha.4.1 预发行如何关闭 Bedrock 增量工具声明?

    Codex 0.170.0-alpha.4.1 预发行默认在两种 Amazon Bedrock provider 上走增量工具定义,保留显式关闭选项。

    Codex 0.171.0-alpha.8 预发行的远程执行和线程恢复怎么用?
    Codex 0.171.0-alpha.8 预发行的远程执行和线程恢复怎么用?

    Codex 0.171.0-alpha.8 预发行允许 exec 连接现有应用服务器,说明 WebSocket 认证、服务端配置与线程恢复限制。

    OpenAI Agents SDK v0.24.0-alpha.8升级前为何要备份状态?
    OpenAI Agents SDK v0.24.0-alpha.8升级前为何要备份状态?

    OpenAI Agents SDK v0.24.0-alpha.8预览版新增执行前审批、自有模型客户端、Realtime与预算检查点恢复,说明alpha.7回退、Linux运行及工具认证边界。

    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件
    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件

    复核OpenAI部分美国企业Mastercard支付事件的恢复状态、卡号前缀范围及UTC和北京时间,区分充值失败、预付余额耗尽与API请求影响,不将恢复等同于历史订单自动完成。

    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围
    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围

    解释OpenAI与Upwork自由职业研究中固定预算、时薪和90天工时的不同统计口径,区分52.4%预算差异、任务多样性与描述性关联,避免收入和就业因果误读。

    OpenAI Agents SDK JS 0.22.0:迁移类型与保存状态,修复待审批压缩和实时中断
    OpenAI Agents SDK JS 0.22.0:迁移类型与保存状态,修复待审批压缩和实时中断

    OpenAI Agents SDK JS 0.22.0调整usage、Realtime图像、MCP描述与保存状态类型,并修复待审批期间的自动压缩及早期实时中断。升级时要同时验证TypeScript检查、旧状态恢复和工具审批链路。

    OpenAI公布Daybreak Red Team与Defense Factory:验证漏洞并生成待审补丁
    OpenAI公布Daybreak Red Team与Defense Factory:验证漏洞并生成待审补丁

    OpenAI在Cyber at the Frontier相关入口公布Daybreak Red Team与Defense Factory,分别面向Web应用漏洞验证和待审补丁制作。Red Team为early access,Defense Factory官方文档标注Preview;本文说明两者分工、访问条件与工程师复核边界。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。