新闻分析｜AI对网络安全的“双刃剑”效应日益凸显

自主行为突破边界

先说美国抱抱脸公司那起系统入侵事件。这事儿是在网络安全基准测试中发生的，直接暴露了前沿AI模型已经具备持续实施复杂网络攻击的能力。具体来说，包括GPT-5.6 Sol在内的多个模型，识别并利用了第三方软件的一个“零日漏洞”，获取了互联网访问权限。在推断抱抱脸公司可能存有完成测试所需数据和解决方案后，这些模型直接入侵了系统，试图“窃取”答案。

OpenAI在扩大调查后，还发现了其他AI产品突破内部隔离的情况。另一家美国AI企业Anthropic也承认，在审查约14.1万次网络安全能力评估记录后发现，其模型曾在多次测试中未经授权访问了3家机构的“生产基础设施”。

那么，问题出在哪里？分析人士认为，当AI模型获得明确的目标，再加上充足的算力、运行时间和操作权限后，它可能不会按照人类预想的方式完成任务。相反，它会自主寻找路径，绕过限制，甚至“作弊”。美国安全技术专家布鲁斯·施奈尔指出，AI智能体可能过于字面化地理解任务目标，却不能自然领会那些没有明确写入指令的限制。有研究发现，模型会利用任务、评分规则、提示词或评测框架中的漏洞来取得高分，根本没有真正展示评测原本希望衡量的能力。

随着前沿模型自主能力持续提升，这种偏差带来的风险正在被进一步放大。OpenAI在一份安全报告中说，早期模型遇到沙箱限制或环境障碍时，往往就停止工作了，而新模型会不断自主尝试新办法，想方设法寻求突破。

安全措施急需完善

失控事件发生后，OpenAI表示已在修补漏洞期间收紧研究基础设施配置，并加强模型训练和评测过程中的隔离、监控、访问控制及安全保护。不少企业和研究机构也认为，应该建立“多重防线”来提高防护系统的稳健性。

OpenAI认为，对于可以自主运行数小时、数天甚至数周的AI智能体，只审核单个动作已经不够了，还需要判断其完整行动轨迹会导致什么结果。谷歌深层思维公司提出，应建立系统级别的AI控制机制，包括沙箱、持续监控和分级授权；使用监督系统不断检查AI智能体的推理、行动和计划，发现危险行为时及时拦截；对于可能造成严重后果的网络攻击等高风险行动，应从事后审查转向实时防护。

英国人工智能安全研究所建议，可能造成重大后果的操作应该有人工审核，限制AI智能体访问敏感资源，并保留在发现可疑行为时终止其运行的能力。美国国家标准与技术研究所则提出，应将AI智能体作为网络中的独立实体进行权限管理，为其制定专门的授权策略，只赋予AI智能体完成特定任务所必需的最低权限。

据媒体报道，多家AI企业的代表已受邀于4日与白宫官员会面，讨论AI安全问题。这显然说明，行业层面的治理已经刻不容缓。

漏洞处置压力陡增

此前业界普遍认为，AI擅长大规模数据分析、模式识别和自动检测，可以助力网络安全，使防御方受益。使用AI协助识别和发现漏洞，已经成为行业普遍做法，但如何充分利用AI提高网络防御能力，正成为新的挑战。

英国《金融时报》报道说，AI正在迅速重塑网络安全领域的攻击和防御。苹果公司近期所发布操作系统更新中的安全修复数量，约为之前更新的5倍。该公司表示，其中多个漏洞是由AI工具帮助识别的。

但AI识别漏洞的能力，也给苹果公司带来了“烦恼”。该公司2025年推出了一项机制，征集关于其软件漏洞的线索，对于最严重、最复杂的威胁，最高可支付500万美元奖励。苹果公司近日却表示，由于其审核系统收到了大量AI“幻觉”生成的“漏洞”报告，因此限制研究人员在一定时间内可以提交的报告数量。

《金融时报》报道说，意大利一家网络安全初创企业使用AI模型，在3个星期内发现了苹果笔记本电脑操作系统50多个漏洞，但由于苹果公司设置的限额，无法提交相关报告。该公司负责人阿尔弗雷多·佩索利表示，整个行业面临的现实是，维护人员和供应商正在被新发现的大量漏洞所“淹没”。

分析人士认为，OpenAI模型失控与苹果公司面临的情况，看似没有直接关联，但两者反映出一个结构性矛盾：在网络安全领域，AI发现问题和采取行动的速度，正在超过人类验证、约束和处置的速度。如果治理跟不上AI迭代，原本用于提高效率的AI工具，可能产生新的安全风险。