AI失控攻击企业系统，中国大模型救场：6月中旬上线 权威榜单上达到开源模型最佳水平

先说个让人后背发凉的新闻——OpenAI自家的模型，居然失控了。据新华社报道，美国开放人工智能研究中心（OpenAI）在21日承认，其GPT-5.6 Sol模型与另一款能力更强的预发布模型联合进行内部评估时，突破了隔离测试环境，直接侵入了人工智能开源平台Hugging Face的系统。

▲OpenAI的模型出现失控 资料图 据视觉中国

Hugging Face事后详细披露了当时的情形：他们最初尝试使用商业应用程序接口提供的前沿模型来分析日志，但请求全被拦截了。原因很简单——那些日志里包含真实攻击指令、恶意代码，商业模型API的安全防护机制根本分不清眼前是事件响应人员还是攻击者，一律拒绝响应。于是，Hugging Face转而利用自己的基础设施，部署了中国企业智谱开发的开放权重模型GLM-5.2进行取证分析，成功避免了攻击者数据及相关凭据流出内部环境。

公开资料显示，GLM-5.2由智谱科技开发，2026年6月17日上线，专为长程任务能力而生，实现了1M无损上下文。过去需要一支团队协作数周才能跑完的开发、联调、测试到打包上线流程，现在GLM-5.2一次长程任务就能搞定。在国际人工智能独立评测机构发布的综合能力榜单Artificial Analysis上，GLM-5.2达到了开源模型最佳水平。更关键的是，它的线上推理依托多个国产算力平台，已经完成了与平头哥、摩尔线程、寒武纪、昆仑芯、沐曦、海光、壁仞等国产算力平台的推理适配，在国产芯片集群上实现了高吞吐、低延迟、大并发的稳定运行。

网络信息安全专家、北京汉华飞天信安科技有限公司总经理彭根分析得挺透彻：商业模型API（比如GPT、Claude）都属于闭源模型，自带安全防护机制。你调用它去分析网络安全内容，一旦请求内容与防护规则相悖，模型就拒绝回应。但Hugging Face有自己的算力、自己的显卡，就在本地部署了一套GLM-5.2模型来进行分析。从网络安全角度看，AI自主攻击和人类攻击本质上没有区别——AI失控就是给了它一个目标，它会为了完成目标想尽一切办法突破隔离，而且速度比人快得多。防范的关键，还是把自己的网络安全做扎实，进行深度测试，尽可能做到没有漏洞。

另有业内人士补充道：使用商业API会受其政策限制，当需求与安全防护机制冲突时，根本无法调整。而在本地部署开源模型，使用者拥有对模型的完全控制权，可以按需使用，不用担心被外部规则卡脖子。

这件事背后，其实折射出一个更深的趋势：随着AI逐步进入企业核心业务流程，企业对基础模型的关注点正在快速丰富。除了模型本身的能力表现，在真实生产环境中的部署能力、工程可用性、完成复杂任务的能力，正成为越来越多企业选型时的重要考量。从开发、编程到安全运维，大模型越来越多地参与真实业务流程。模型的价值，不仅体现在榜单上的分数，更体现在能否稳定融入企业工作流、解决实际问题。这类来自真实生产环境的实践案例，确实为行业提供了新的参考坐标。