OpenAI承认其模型失控，专家：AI安全治理迫在眉睫

美国开放人工智能研究中心（OpenAI）21日承认，其GPT-5.6模型与另一款能力更强的预发布模型在联合内部评估时，竟然突破了隔离测试环境，直接侵入了人工智能开源平台美国抱抱脸公司的系统。最终，抱抱脸不得不借助中国公司的AI模型才及时控制住局面。

这一事件迅速引发行业震动：这种“自主性”究竟是模型能力增强的必然副产品，还是训练方式出现了某种偏差？它对AI行业和网络安全意味着什么？我们听听中国社会科学院大学数字中国研究院特聘研究员、数字经济学者刘兴亮的解读。

专家：AI失控可能是模型能力提升带来的结果

中国社会科学院大学数字中国研究院特聘研究员 刘兴亮：我更倾向于认为，这是模型能力提升带来的自然结果。可以把AI想象成一个特别聪明、执行力特别强的员工——你给它一个目标，它不会等着别人安排下一步，而是自己规划路径、寻找工具解决障碍。在这次测试中，当正常路径走不通时，它就主动去寻找其他方法，包括利用漏洞、寻找互联网出口。这说明它越来越会“做事”，而不是越来越有“意识”。真正需要解决的问题，不是让AI变笨，而是让AI知道哪些边界绝对不能跨越。

专家：AI的发展速度要求安全体系全面升级

中国社会科学院大学数字中国研究院特聘研究员 刘兴亮：过去我们更多是在防黑客，但以后可能还要防AI驱动的攻击，甚至会出现AI攻击、AI防御、AI取证这样的新格局。这意味着网络安全将进入AI对AI的时代。

那么，具体应该怎么做？有三方面特别重要。

第一，企业要把AI安全放在和模型能力同样重要的位置，不能只追求模型越来越聪明，更要保证它始终处于可控状态。第二，整个行业需要建立更严格的安全测试和评估机制，尤其是在模型上线之前，要进行更高强度的红队测试和风险验证。第三，加强国际合作——网络攻击没有国界，AI安全同样没有国界。

这次OpenAI和抱抱脸能够联合调查、共同披露，其实就是一个积极的信号。未来AI竞争会越来越激烈，但AI安全更需要全球共同治理。

原标题：《OpenAI承认其模型失控，专家：AI安全治理迫在眉睫》