当前位置:

首页 > 北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

近年来,对视觉感知系统安全性评估的研究已经逐渐深入,已经有研究人员成功地开发了基于眼镜、贴纸、衣物等不同载体的可见光模态安全评估技术,并且还有一些对红外模态的新尝试。然而,这些技术都只能应用于单一的模态随着人工智能技术的发展,可见光-热红外成像技术已广泛应用于治安监控、自动驾驶等安全关键任务中。可见光成像在白天能提供丰富的纹理信息,而红外成像则能在夜间清晰显示目标的热辐射分布。二者结合使用,视觉感知系统可以实现24小时全覆盖,并且不受环境限制,具备许多优势。因此,需要研究针对多模态视觉感知系统的统一安全评

近年来,对视觉感知系统安全性评估的研究已经逐渐深入,已经有研究人员成功地开发了基于眼镜、贴纸、衣物等不同载体的可见光模态安全评估技术,并且还有一些对红外模态的新尝试。然而,这些技术都只能应用于单一的模态

随着人工智能技术的发展,可见光-热红外成像技术已广泛应用于治安监控、自动驾驶等安全关键任务中。可见光成像在白天能提供丰富的纹理信息,而红外成像则能在夜间清晰显示目标的热辐射分布。二者结合使用,视觉感知系统可以实现24小时全覆盖,并且不受环境限制,具备许多优势。因此,需要研究针对多模态视觉感知系统的统一安全评估方法

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

然而,实现多模态评估极具挑战性。首先,在不同成像机制下打击方法通用难。以前的方法都分别基于特定目标模态成像特点提出,在其他模态下很难起到作用。再者,平衡隐身性能、制作成本和灵活应用难。对于可见光和更难的红外模态双重有效已是不易,实现低成本便捷制作与使用更是难上加难。

面对诸多挑战,来自北航人工智能研究院的研究者挖掘可见光 - 红外模态间通用的形状属性,创新性地提出 「跨模态通用对抗补丁」,实现可见光 - 红外同步隐身。其遴选易获取、成本低、隔热性能优异的材料制作便捷贴片,即拆即用,在填补当前物理世界可见光 - 红外多模态检测系统鲁棒性评估技术缺失的同时,兼顾物理实现的简易性与即时性。实验证明了该方法在不同检测模型与模态下的有效性,以及多场景下的泛化性。目前,该论文已被 ICCV 2023 接收。

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

请点击以下链接查看论文:https://arxiv.org/abs/2307.07859

代码链接:https://github.com/Aries-iai/Cross-modal_Patch_Attack

技术要点

该研究以进化算法为基础框架,从形状建模、形状优化和模态平衡三个角度进行方案设计和效果改进。具体流程如下图所示:

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

1. 基于样条插值的多锚点形状建模

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

对于基础形状建模部分,研究人员设计了一种点优化建模新范式。通过改变点的坐标,可以直接调整补丁的形状,而不受方向、距离等限制的影响。这样有效地增大了补丁形状的搜索空间。为了确保形状的自然性,研究人员还利用了样条插值方法来实现平滑连接,使得样条更紧密地跟随控制点

2. 边界限定形状优化算法基于差分进化的原理

实现打击需要有效的优化手段,为此研究人员从时间成本、实际效果等角度考量,以进化算法作为基本框架,并从边界设定、适应度函数两个角度改进:

需要进行改写的内容是:(1)边界设定:通过对锚点进行边界设定,可以提高形变的有效性,降低时间成本。其具体设定如下:不会在曲线段内形成循环或自交;在曲线段内不容易出现尖点;不会出现在无效区域

以锚点北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了为例,下图蓝色部分为边界设定图例,橙色部分为错误实例:

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

关于锚点北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了的边界判定 北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了 数学表达如下所示:

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

(2)适应度函数:本研究不同于以往仅针对单一模态进行打击评估的工作,而是聚焦于可见光-红外两个模态,并且意识到两个模态之间存在天然的平衡效果差异问题。为了避免过度优化单一模态而忽视另一模态,研究人员提出了一种创新的跨模态适应度函数,该函数基于检测器的置信度得分感知,旨在鼓励探索成功的方向并平衡两个模态之间的效果差异。最终,根据评分进行优胜劣汰。为了考虑到初始阶段和后期阶段的打击难度差异,该函数使用指数函数代替线性函数,以更加凸显不同阶段的打击进度差异性

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

算法迭代该探索过程直至两模态都打击成功,输出最优形状策略。完整优化流程如下所示:

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

实验结果

实验一:针对不同系列检测器的跨模态打击性能验证

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

实验二:针对形状的消融实验

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

实验三:对于跨模态适应度函数的消融实验

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

实验四:物理实施偏差下的方法鲁棒性验证

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

实验五:不同物理条件下的方法有效性验证

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

北航打破模态壁垒,跨可见光-红外模态的通用物理对抗打击方法来了

在不同的角度、距离、姿势和场景下进行性能验证,并将结果可视化呈现

总结

本研究的核心是自然形状优化,并结合形变补丁和跨模态打击,设计了一种物理环境下可见光 - 红外多模态鲁棒性评估方法。该方法可以评估多模态(可见光 - 红外)目标检测系统的鲁棒性,并根据评估结果有效地修正检测器模型,同时提高可见光和红外两种模态下目标图像检测的准确性。该方法在物理环境中实施和应用,为多模态检测系统的鲁棒性评估和改进做出了贡献

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
模型
相关文章 更多
特斯拉FSD新增滑板识别模型
特斯拉FSD新增滑板识别模型

近日,有汽车领域博主爆料,特斯拉的FSD(完全自动驾驶)辅助系统将迎来一次重要升级,或将实现更真实的环境场景还原。在最新曝光的软件代码中,发现了大量新增的渲染模型,涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人,以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息,日本方面已为特斯拉FSD系统的落地扫

4TB数据搬运:物理传输更高效
4TB数据搬运:物理传输更高效

在千兆宽带、5G通信与云服务深度普及的2026年,大众普遍以为超大文件传输已步入“秒级时代”,但现实远未达到这般畅快。当面对数TB乃至数十TB级别的庞大数据集时,当下最可靠、最迅捷且兼顾安全性的传输方案,依然是“物理位移”——依靠人工携带存储介质完成跨地域交付。一位来自河南信阳的用户讲述了真实经历:他曾需将4TB资料从信阳送往郑州,首次尝试纯网络传输,系统预估总耗时近72小时;最终改用专人驱车运送,单程仅需约2.5小时,当天即完成取件与送达,整体效率显著超越线上方式。该实例迅速引发热议,多位资深IT博主随

阿里开源14B电影级视频模型,实测可玩
阿里开源14B电影级视频模型,实测可玩

AI视频生成正迎来属于“通义”的高光时刻!就在昨晚,阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频,就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频,效果惊艳。实际效果展示如下:△来自@AIMIRAI46487更令人振奋的是,这款新模型一经发布便全面开源,现在所有人都可以免费在通义万相官网体验使用。据官方介绍,Wan2.2-S2V的核心优势包括:支持最长分钟级的单次视频生成,画面稳定且具有一致性;具备影院级别的音

华为盘古 Ultra MoE 模型发布
华为盘古 Ultra MoE 模型发布

5月30日,华为推出了全新的AI模型——盘古UltraMoE,该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型,它在整个训练过程中完全基于华为的昇腾AI平台完成,标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如,Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入,显著改善了超大规模模型训练期间出现的梯度异常及

SOTA大模型加密数据评测:Qwen3仅破10%
SOTA大模型加密数据评测:Qwen3仅破10%

大语言模型面对加密数据,即便最新的Qwen3也会感到压力!尽管当下各类推理模型在多种基准测试中表现优异,但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域,模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链,还需要其能够精准辨识复杂加密模式中的潜在规律;成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评,使用大量真实隐私场景数据和多种密码算法,严苛挑战当前最先进的大模型。CipherBank的测评结果显示,目前的大语言模型

通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API
通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API

强化学习(RL)结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而,这一方法面临两大挑战:搜索引擎返回的文档质量不稳定,导致训练过程中的噪音和不稳定性;RL训练需要频繁部署,产生大量API开销,限制了可扩展性。针对这些问题,阿里通义实验室推出了开源解决方案ZeroSearch,这是一个无需与真实搜索引擎交互的强化学习框架。实验表明,ZeroSearch只需使用3B参数的LLM作为检索模块,就能有效提升搜索能力,并大幅节省API成本。ZeroSearch让LLM实现自给自足

雷克沙ArmorSD卡测评:全金屬防護三防加持存储更安心
雷克沙ArmorSD卡测评:全金屬防護三防加持存储更安心

无论是专业摄影师还是摄影爱好者,相机内存储卡的可靠性都至关重要,尤其是在恶劣的拍摄环境中,数据存储的安全性更是不可忽视。尽管市场上有多种支持三防功能的移动存储设备用于数据备份,但最常用的SD存储卡由于采用塑料外壳,长期使用后容易出现破损,导致数据损坏,甚至可能损坏相机的存储卡槽,带来的损失不可估量。国际存储品牌雷克沙推出了全新的Armor系列SD存储卡,不仅读写速度快,还采用了不锈钢材质的外壳,具有优异的防水、防尘和防跌落性能,为相机的原始拍摄数据提供了可靠的保护。雷克沙ArmorSD存储卡分为GOLD

Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬
Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬

不求速胜,熬吧。

第一章:计算机系统全方位概述
第一章:计算机系统全方位概述

1.1计算机发展历程[计组]1.0_你好,我是计算机组成原理我们生活在一个信息化程度极高的世界中,我们每天的生活都离不开电脑和手机,这些设备实际上都属于计算机的范畴。计算机的底层结构由硬件构成,在硬件之上,我们会安装操作系统,再在操作系统上运行各种应用软件,这样就能得到一个易于使用的计算机系统。通过计算机网络,这些设备实现了信息的互联互通,这正是我们现在生活的信息化世界的缩影。计算机组成原理这门课研究的就是这些计算机硬件在底层如何协同工作。既然我们要研究硬件,不妨先来看一下大家日常生活中常见的一些硬件

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。