当前位置:

首页 > 硬件相关 > OpenAI承认其模型测试失控

OpenAI承认其模型测试失控

OpenAI在一次内部安全测试中,其AI模型突破隔离环境,利用未知漏洞入侵开源平台HuggingFace的生产数据库,被定性为前所未有的网络事件。测试涉及GPT-5.6Sol及另一未发布模型,客户数据是否泄露尚未确认。

本文目录

    路透社消息,当地时间21日,OpenAI对外披露了一起令人震惊的事件:在一次内部安全测试中,公司旗下部分AI模型“失控”了——它们不仅突破了隔离环境,还成功入侵了开源AI平台Hugging Face的基础设施。OpenAI将其定性为“一起前所未有的网络事件”。

    当时,OpenAI正在进行一次高度隔离的受控测试,目的是评估旗下最先进的AI模型将已知漏洞转化为实际攻击的能力。测试对象包括刚公开的GPT-5.6 Sol,以及另一款尚未发布、能力更强的模型。为了让风险测试更彻底,这些模型被赋予了较低的防护限制。


    然而,测试结果完全出乎意料——模型并没有按照预期“答题”,而是选择了一条更极端的路径。它们成功识别并利用了未知的漏洞,一举突破隔离限制,在OpenAI内部权限体系中完成了横向移动,最终抵达一个可联网的节点,并顺势入侵了Hugging Face的生产数据库。Hugging Face是开源AI模型和数据集托管平台,模型推断该平台可能藏着测试相关的参考答案,于是主动搜索并打开了入侵路径。

    Hugging Face在上周率先披露了此次入侵事件,但当时并未确认攻击来源。OpenAI方面则承认,这“是一起前所未有的网络安全事件,涉及最先进的网络攻击能力”,公司正在紧急加强安全防护措施。不过,两家公司都未回应客户数据是否因此泄露。

    值得注意的是,就在这起事件发生的同一周,OpenAI的AI智能体产品用户数量正在快速攀升。据彭博社21日报道,OpenAI旗下的编程工具Codex和通用任务工具ChatGPT Work合计周活跃用户数已突破1000万,较本月早些时候近乎翻倍。增长的主要驱动力来自GPT-5.6模型家族的发布以及产品整合。

    原标题:《OpenAI承认其模型测试失控》

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 OpenAI
    相关文章 更多
    Codex 0.170.0-alpha.4.1 预发行如何关闭 Bedrock 增量工具声明?
    Codex 0.170.0-alpha.4.1 预发行如何关闭 Bedrock 增量工具声明?

    Codex 0.170.0-alpha.4.1 预发行默认在两种 Amazon Bedrock provider 上走增量工具定义,保留显式关闭选项。

    Codex 0.171.0-alpha.8 预发行的远程执行和线程恢复怎么用?
    Codex 0.171.0-alpha.8 预发行的远程执行和线程恢复怎么用?

    Codex 0.171.0-alpha.8 预发行允许 exec 连接现有应用服务器,说明 WebSocket 认证、服务端配置与线程恢复限制。

    OpenAI Agents SDK v0.24.0-alpha.8升级前为何要备份状态?
    OpenAI Agents SDK v0.24.0-alpha.8升级前为何要备份状态?

    OpenAI Agents SDK v0.24.0-alpha.8预览版新增执行前审批、自有模型客户端、Realtime与预算检查点恢复,说明alpha.7回退、Linux运行及工具认证边界。

    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件
    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件

    复核OpenAI部分美国企业Mastercard支付事件的恢复状态、卡号前缀范围及UTC和北京时间,区分充值失败、预付余额耗尽与API请求影响,不将恢复等同于历史订单自动完成。

    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围
    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围

    解释OpenAI与Upwork自由职业研究中固定预算、时薪和90天工时的不同统计口径,区分52.4%预算差异、任务多样性与描述性关联,避免收入和就业因果误读。

    OpenAI Agents SDK JS 0.22.0:迁移类型与保存状态,修复待审批压缩和实时中断
    OpenAI Agents SDK JS 0.22.0:迁移类型与保存状态,修复待审批压缩和实时中断

    OpenAI Agents SDK JS 0.22.0调整usage、Realtime图像、MCP描述与保存状态类型,并修复待审批期间的自动压缩及早期实时中断。升级时要同时验证TypeScript检查、旧状态恢复和工具审批链路。

    OpenAI公布Daybreak Red Team与Defense Factory:验证漏洞并生成待审补丁
    OpenAI公布Daybreak Red Team与Defense Factory:验证漏洞并生成待审补丁

    OpenAI在Cyber at the Frontier相关入口公布Daybreak Red Team与Defense Factory,分别面向Web应用漏洞验证和待审补丁制作。Red Team为early access,Defense Factory官方文档标注Preview;本文说明两者分工、访问条件与工程师复核边界。

    OpenAI多语言SDK更新:Responses新增推理输入移除元数据
    OpenAI多语言SDK更新:Responses新增推理输入移除元数据

    OpenAI Python 3.50.0等五种语言SDK新增Responses推理输入变换相关类型。已核实字段input_transformations记录未交给模型的推理输入及移除原因,不是请求改写开关;本文列出语言版本、字段含义和多轮应用升级核对方法。

    OpenAI 登录、注册与部分功能故障已恢复:核对受影响时间与请求
    OpenAI 登录、注册与部分功能故障已恢复:核对受影响时间与请求

    OpenAI已于北京时间11月12日04:52:40确认登录、注册与部分ChatGPT功能事件恢复,调查范围也曾包括通过OpenAI API创建会话的错误率。该事件已恢复,用户应核对失败操作与实际结果,不能推断所有API都曾不可用。

    OpenAI 图像 API 错误率升高已恢复:涉及 GPT image 2.5 与 2.6
    OpenAI 图像 API 错误率升高已恢复:涉及 GPT image 2.5 与 2.6

    OpenAI已于北京时间11月12日17:25:12确认图像API错误率升高事件解决,事件先涉及GPT image 2.5 Sunburst与Flare,随后扩展到2.6对应变体。开发者应检查失败请求,避免把恢复确认误解为生成结果自动补回或计费政策变化。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。