当前位置:

首页 > 硬件相关 > 360发布智能体安全报告:Skill成智能体风险新入口

360发布智能体安全报告:Skill成智能体风险新入口

360报告指出,AI安全核心矛盾正从“生成风险”转向“执行风险”。智能体可能因诱导或逻辑缺陷,在合法操作下产生非法后果,传统静态安全边界面临失效。报告提出需从意图检测、环境隔离等多维度系统性重建安全,并强调需加强Skill等关键风险入口的安全检测与全链路治理。

最近,一份来自360 AI安全研究院的报告引起了业内的广泛关注。这份名为《AI安全系列报告:智能体安全新范式——当AI有了“手和脚”,企业安全边界必须重建》的报告,指出了一个关键的趋势转变:随着智能体(AI Agent)深度融入企业的办公、研发、运维乃至客服等核心业务流程,AI安全的核心矛盾,正从“生成风险”悄然转向“执行风险”。

过去几年,我们谈论大模型安全,焦点往往在于它会不会“说错话”——比如产生事实幻觉、输出违规内容或泄露敏感信息。这就像担心一个学识渊博但口无遮拦的顾问。然而,当智能体被赋予了“手和脚”,开始自主调用工具、访问数据库、执行真实世界任务时,问题性质就变了。风险的核心不再是它说了什么,而是它实际“做”了什么。一个被精心诱导或逻辑误判的智能体,完全可能在权限内、使用合规工具、遵循标准流程的情况下,做出背离业务初衷甚至突破安全边界的操作。

报告里提出了一个非常精准的概念——“合法动作的非法后果”。这描述的正是一种新型风险形态:智能体身份是合法的,调用的工具是授权的,操作流程也是标准的,但由于恶意诱导、上下文污染或自身的逻辑缺陷,最终的执行结果却可能造成数据泄露、业务中断或合规违规。这种风险隐蔽性强,传统基于身份和权限的静态安全边界,对此几乎失效。

智能体安全六层攻击面模型

那么,风险究竟从何而来?企业的防线又该建在哪里?报告构建了一个“智能体安全六层攻击面模型”,为我们清晰地勾勒出战场全貌。这个模型将企业级智能体的潜在攻击面分解为六个层次:人机交互层、通信调用层、组件间层、智能体之间、工具调用层和基础运行环境层。

这个分层思路的价值在于,它帮助企业跳出单点防御的思维,从身份、工具、数据、记忆、行为和运行环境等多个维度,系统性审视和重建安全边界。面对这一复杂局面,360提出的应对思路聚焦于三大发力点:意图检测、环境隔离、逻辑纠偏,并致力于形成“端+云+管理平台”的能力闭环。

具体来说,在终端和主机侧,重点是确保智能体的运行环境可控,能够实时阻断高风险动作,并保护敏感数据不被异常访问。在云端,则持续进行Skill(技能)的安全检测、漏洞运营、风险特征库的沉淀以及安全策略的迭代更新。而统一的管理平台,则承担起智能体资产发现、全局风险可视化、全链路行为审计和一体化策略编排的职责,推动企业的智能体安全从单点防护走向体系化治理。

报告进一步厘清了AI安全的两大问题域:一类是“确定性计算”中的传统安全问题,如软件漏洞、网络入侵、权限滥用、配置错误和供应链风险,这些问题有相对明确的规则和边界;另一类则是“不确定性计算”带来的全新挑战,例如提示词注入、工具投毒、意图篡改、返回值污染以及智能体的误执行,这类问题源于大模型本身的可诱导性和不可预测性。

对应这两类问题,也需要双线并行的解决路径。一方面,是用AI技术来增强传统安全防护,提升在漏洞挖掘、入侵研判、恶意样本分析和应急响应等方面的效率和精度。另一方面,也是更关键的,是为不确定性任务套上“安全缰绳”,通过技术手段确保智能体在既定的、可信的边界内执行任务,做到“可以做事,但绝不越界”。

报告特别强调,Skill正在成为智能体生态中一个至关重要的风险入口。作为智能体连接外部工具和业务系统的桥梁,Skill本质上已经延伸为智能体能力链条的一部分。这意味着,一个存在安全漏洞或被恶意篡改的Skill,其危害绝不会局限于这个插件本身,它可能成为跳板,危及整个企业的账号体系、核心数据资产、关键业务系统,甚至引发严重的合规问题。

近期业界热议的OpenClaw等智能体平台,就是这一生态的典型代表。在这些平台上,智能体能否完成发送邮件、查询数据、处理文件、驱动业务流程等任务,极大程度上依赖于其可调用的Skill。因此,这类平台的安全,是一个立体问题:既包括智能体本体的安全,也涵盖Skill的准入审核、权限最小化分配、运行过程的全链路审计以及对工具调用的统一治理。

十大高风险Skill类型

针对Skill这一关键风险点,360的沙箱云-SKILLS分析平台提供了针对性的解决方案。该平台面向AI Agent Skill生态,提供安全检测与云鉴定能力,支持通过Skill文件压缩包、详情页链接或下载地址等多种方式提交检测对象。其检测流程覆盖静态代码分析、AI意图识别、动态沙箱行为监控以及持续的威胁运营,旨在帮助Skill开发者、企业安全团队以及最终使用者,在Skill被正式部署上线前,就能提前发现并阻断潜在的安全风险。

报告的结论清晰而有力:智能体安全的核心要义,绝非因噎废食,试图限制智能体的能力发挥。恰恰相反,真正的挑战与目标,是构建一个坚固且智能的可信边界,让智能体能够充分施展其效率优势,“在边界内做正确的事”。这标志着AI安全范式的一次根本性转向,也是所有正在或计划部署智能体的企业必须认真对待的新课题。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
硬件相关
相关文章 更多
显示器色温怎么调不刺眼?色温调多少看着最舒服
显示器色温怎么调不刺眼?色温调多少看着最舒服

详解显示器色温的舒适调节区间、刺眼的核心诱因,以及在不同使用场景与环境光下的具体调节步骤与校准方法。

显卡风扇不转怎么回事判断是否正常及解决方法
显卡风扇不转怎么回事判断是否正常及解决方法

发现显卡风扇不转先别慌,这很可能是正常的智能启停功能。本文详解如何区分待机静音与硬件故障,提供从软件检测到物理清理的完整解决思路。

笔记本加内存条后无法开机怎么办及解决方法
笔记本加内存条后无法开机怎么办及解决方法

笔记本加装新内存后遇到黑屏或无法开机?不要慌张,本文通过重新插拔、清洁金手指、单根测试等具体操作步骤,帮你快速判断是安装失误还是硬件不兼容,并给出相应解决办法。

电脑主机前置usb不能用怎么解决排查修复教程
电脑主机前置usb不能用怎么解决排查修复教程

针对电脑主机前置USB接口无法识别设备的问题,本文提供一套基于因果逻辑的排查流程。涵盖检查机箱内部USB针脚连接、验证BIOS中USB控制器状态、更新芯片组驱动以及排除供电不足等常见原因,帮助用户快速恢复接口功能。

无线鼠标充不进电解决办法及故障排查步骤
无线鼠标充不进电解决办法及故障排查步骤

遇到无线鼠标充不进电的问题,不要急于更换设备。本文详解从清理接口氧化层、更换数据线到检测电池电压的完整排查流程,帮助你判断是临时故障还是硬件损坏。

蓝牙游戏手柄连接教程吃鸡
蓝牙游戏手柄连接教程吃鸡

想知道如何用蓝牙手柄玩吃鸡游戏?本文详细讲解手机蓝牙手柄的连接步骤、主流映射软件的使用方法以及实战中的键位布局技巧,助你提升射击手感,同时解析外设玩家的匹配机制与注意事项。

游戏手柄蓝牙连接为何每次都要重连原因排查与解决方法
游戏手柄蓝牙连接为何每次都要重连原因排查与解决方法

本文深入分析游戏手柄蓝牙频繁断开且需重连的根本原因,涵盖电池电压检测、操作系统电源管理策略及驱动冲突。通过具体的系统设置调整和固件更新步骤,解决蓝牙握手失败问题,恢复手柄的稳定连接状态。

显示器画面模糊抖动怎么解决及排查方法教程
显示器画面模糊抖动怎么解决及排查方法教程

遇到显示器画面模糊或抖动时,可通过检查视频连接线、调整系统分辨率与刷新率、更新显卡驱动等步骤进行排查和修复。

小米智能门锁换电池后怎么开机
小米智能门锁换电池后怎么开机

小米智能门锁更换新电池后无法开机或屏幕不亮?本文详解电池极性检查、金属触点清洁及强制重启方法,帮你快速解决供电问题,让门锁恢复正常使用。

电视机声音怎么连接到外置音响
电视机声音怎么连接到外置音响

想让电视声音更震撼?本文详解如何通过HDMI ARC、光纤、蓝牙和3.5mm接口将电视连接至外置音响,包含具体设置步骤与常见问题排查,助你轻松打造家庭影院。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程
PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
WPS Office macOS版
WPS Office macOS版
macOS

WPS Office是一款面向macOS用户的综合办公套件,将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式,支持Intel及Apple芯片Mac,基础功能可免费使用,

Shapr3D macOS版
Shapr3D macOS版
Mac

Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核,支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换,并可通过账户在多台设备之间同步项目。

REAPER macOS版
REAPER macOS版
Mac

REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

WINDOWS 更多
Adobe Photoshop Windows版
Adobe Photoshop Windows版
Windows

Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理工具,可在 Windows 上完成照片修饰、选区抠图、图层合成、文字排版、绘画及生成式编辑。软件采用订阅授权,由 Creative Cloud 管理安装、更新与许

Adobe InDesign Windows版
Adobe InDesign Windows版
Windows

Adobe InDesign 是面向印刷与数字出版的专业页面排版工具,可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力,并能与 Photoshop、Illustrator

Adobe Illustrator Windows版
Adobe Illustrator Windows版
Windows

Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心,作品放大后仍能保持清晰,并提供画板、文字、渐变、图像描摹及精确变换等功能,适合品牌视觉、印刷物料、数字界面和商业插画创作。