当前位置：

首页 > 业界资讯 > CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

作者：NorthPath 时间：2024-07-24 来源：互联网浏览：0

第一个针对「SegmentAnything」大模型的域适应策略来了！相关论文已被CVPR2024接收。引言大语言模型（LLMs）的成功激发了计算机视觉领域探索分割基础模型的兴趣。这些基础分割模型通常通过PromptEngineer来进行zero/few图像分割。其中，SegmentAnythingModel（SAM）是最先进的图像分割基础模型。图SAM在多个下游任务上表现不佳但是最近的研究表明，SAM在多种下游任务中并非具有很强的鲁棒性与泛化性，例如在医学图像、伪装物体、添加干扰的自然图像等领域表现较差。

第一个针对「Segment Anything」大模型的域适应策略来了！相关论文已被CVPR 2024 接收。

引言

大语言模型（LLMs）的成功激发了计算机视觉领域探索分割基础模型的兴趣。这些基础分割模型通常通过 Prompt Engineer 来进行 zero/few 图像分割。其中，Segment Anything Model（SAM）是最先进的图像分割基础模型。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

^{图 SAM 在多个下游任务上表现不佳}

但是最近的研究表明，SAM 在多种下游任务中并非具有很强的鲁棒性与泛化性，例如在医学图像、伪装物体、添加干扰的自然图像等领域表现较差。这可能是由于训练数据集与下游的测试数据集之间存在较大的域差异（Domain Shift）所致。因此，一个非常重要的问题是，如何设计域自适应方案，使 SAM 在面对现实世界和多样化的下游任务中更加鲁棒？

将预训练好的 SAM 适应到下游任务主要面临三个挑战：

首先，传统的无监督域自适应范式需要源数据集和目标数据集，由于隐私和计算成本较为不可行。
其次，对于域适应，更新所有权重通常性能更好，同时也受到了昂贵的内存成本的限制。
最后，SAM 可以针对不同种类、不同颗粒度的提示 Prompt，展现出多样化的分割能力，因此当缺乏下游任务的提示信息时，无监督适应将非常具有挑战性。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

^{图 1 SAM 在大规模数据集上进行预训练，但存在泛化性问题。我们使用弱监督的方式在各种下游任务上对 SAM 进行自适应}

为了应对上述挑战，我们提出了一种具有锚点正则化和低秩微调的弱监督自训练架构，以提高自适应的鲁棒性和计算效率。

具体而言，我们首先采用无源域的自训练策略，从而避免对源数据的依赖。自训练产生伪标签，用于监督模型的更新，但是容易受到错误伪标签的影响，我们引入冻结的 source model 作为锚定网络，以规范模型的更新。

为了进一步减少更新完整模型权重的高计算成本，我们对编码器应用低秩权重分解，并通过低秩快捷路径进行反向传播。

最后，为了进一步提高无源域自适应的效果，我们在目标域引入了弱监督（weak supervise），例如稀疏的点注释，以提供更强的域适应信息，同时这种弱监督与 SAM 中的提示编码器自然兼容。

借助弱监督作为 Prompt，我们获得了更局部、更明确的自训练伪标签。经过调整的模型在多个下游任务上表现出了更强的泛化能力。

我们总结本工作的贡献如下：

1. 我们受到 SAM 在下游任务中泛化问题的启发，提出了一种与任务无关且无需源数据的解决方案，通过自训练来适应 SAM。

2. 我们利用弱监督，包括 box、point 等标签，以提高自适应效果。这些弱监督标签与 SAM 的提示编码器完全兼容。

3. 我们对 5 种类型的下游实例分割任务进行了大量实验，证明了所提出的弱监督自适应方法的有效性。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

论文地址：https://arxiv.org/pdf/2312.03502.pdf
项目地址：https://github.com/Zhang-Haojie/WeSAM
论文标题：Improving the Generalization of Segmentation Foundation Model under Distribution Shift via Weakly Supervised Adaptation

方法

方法介绍分为四个部分：

Segment Anything 模型
基于自训练的自适应框架
弱监督如何帮助实现有效的自训练
低秩权重更新

1.Segment Anything Model

SAM 主要由三个组件构成：图像编码器（ImageEncoder）、提示编码器（PromptEncoder）、和解码器（MaskDecoder）。

图像编码器使用 MAE 进行预训练，整个 SAM 在拥有 11 亿标注的训练集 SA-1B 上进一步进行微调，训练时使用了 Focal loss 和 Dice loss 的组合。推理时，测试图片 x 首先由图像编码器进行编码，然后给定提示 Prompt，轻量级的解码器将进行三个级别的预测。

2.Source-Free 域适应自训练

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

^{图 2 所提出的具有锚定网络正则化和对比损失正则化的自训练架构}

针对未提供标记的目标数据集 DT={xi} 和预训练的分割模型。我们采用了 student-teacher 架构进行自训练。如图 2 所示，我们维护三个编码器网络，即 anchor model、student model、teacher model，其中 student 和 teacher model 共享权重。

具体来说，对于每个样本 xi，应用一个随机的弱数据增强作为 anchor 和 teacher model 的输入，应用一个随机的强数据增强作为 student model 的输入，三个编码器网络编码产生三个特征图。

在解码器网络中，给定一定数量 Np 的提示 prompt，例如 box、point 或 coarse mask，将推理出一组实例分割的 masks。

基于以上知识，我们下面详细阐述用于自训练的三组优化目标。

1) Student-Teacher 自训练

我们首先使用与训练 SAM 时相同的损失函数作为自训练优化目标来更新 student/teacher model。自训练广泛应用于半监督学习，最近还被证明了对无源域自适应非常有效。具体而言，我们使用 teacher model 产生的预测结果，作为伪标签（Pseudo label），并使用 Focal loss 和 Dice loss 来监督 student 的输出。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

2) Anchor 损失用于鲁棒正则化

仅使用自训练损失进行网络训练容易受到 teacher 网络预测的错误伪标签积累的影响，即所谓的确认偏差。观察也表明，仅使用自训练长时间迭代后性能会下降。现有的无源域自适应方法通常采用额外的约束来防止自训练的负面影响，例如对预测进行均匀分布。

我们通过 anchor 损失来进行正则化，如公式 3 所示，分别最小化了 anchor model 与 student/teacher model 之间的 Dice loss。冻结的 anchor model 作为从源域（source domain）继承的知识，不鼓励源模型和自训练更新模型之间出现过大的偏差，可以防止模型崩溃。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

3) 对比损失正则化编码器特征空间

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

^{图 3 两个分支下的对比损失}

以上两个训练目标是在解码器的输出空间中执行的。实验部分揭示出，更新编码器网络是适应 SAM 最有效的方法，因此有必要直接对从编码器网络输出的特征应用正则化。具体如图 3 所示，我们根据 anchor 和 teacher 分支中预测 mask 从特征图中裁剪出每个实例的特征 CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

我们进一步定义对比损失中的正负样本对，正样本对是由两个分支中使用相同的 prompt 对应的实例特征构建，而负样本对是由不同 prompt 对应的实例特征来构建的。最终的对比损失如下所示，其中 CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

是温度系数。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

4) 总损失

我们将上述三个损失函数组合成最终的 Source-Free 自适应损失。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

3. 自训练的 Prompt 生成

SAM 分割需要 Prompt 输入来指示出待分割的目标对象，但可能会存在颗粒度模糊的问题。Prompt 工程可以以完全自动化的方式实现，也可以通过人工交互实现。

1) 完全自动生成 Prompt

我们首先使用网格密集采样点作为 prompt 输入，通过 Anchor model 生成初始阶段分割的 masks，剔除 IoU 和稳定性得分低的 mask，然后进行非极大值抑制来获得分割结果。接下来从最终的 masks 中产生一组固定的 prompts，作为所有三个分支的 prompt 输入。因此，三个网络分割输出的 mask 长度相同，并且具有精确的一对一对应关系。

2) 弱监督作为 Prompt

尽管可以通过在图像上使用网格采样获得 prompts，并过滤掉质量低和重复的 mask 来进行自动分割。但这些分割质量相对较差，可能包含许多误报预测，并且颗粒度不明确。由此产生的 prompt 质量参差不齐，使得自训练效果较差。

因此，借鉴先前的弱监督域自适应工作，我们提出使用三种弱监督方式，包括边界框 box、稀疏点标注 point 和粗分割多边形 coarse mask。在 SAM 中，这些弱监督方式与 prompt 输入完美匹配，可以无缝集成弱监督以适应 SAM。

4. 低秩权重更新

基础模型庞大的编码器网络使得更新所有模型的权重变得异常困难。然而，许多现有研究表明，更新编码器网络权重是调整预训练模型的有效方法。

为了能够更加有效且低成本地更新编码器网络，我们选择了一种计算友好的低秩更新方法。对于编码器网络中的每个权重 θ，我们使用低秩近似 ω = AB，并设定一个压缩率 r。只有 A 和 B 通过反向传播进行更新以减少内存占用。在推理阶段，通过将低秩近似和原始权重组合来重构权重，即 θ = θ + AB。

实验

在实验中，我们提供了与最先进方法的详细比较和定性结果。最后，我们分析了各个部分的有效性以及网络的具体设计。

1. 数据集

在这项工作中，我们对五种不同类型的下游分割任务进行评估，其中一些与 SA-1B 存在明显的分布偏移。数据集涵盖了清晰的自然图像、添加干扰的自然图像、医学图像、伪装物体和机器人图像，总计 10 种。

数据划分：每个下游数据集被划分为互不重叠的训练集和测试集。

表 1 中列出了每种类型下游任务所评估的数据集，以及训练和测试数据集的划分。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

2. 实验细节

Segment-Anything 模型：由于内存限制，我们采用 ViT-B 作为编码器网络。采用标准提示编码器和 mask 解码器。

Prompt 生成：训练和评估阶段的 Prompt 输入均是由从实例分割 GT mask 计算而来，模拟人类交互作为弱监督。

具体来说，我们从整个 GT mask 的最小边界框中提取 box。Point 是通过在 GT mask 内随机选择 5 个正样本点和 5 个 mask 外的负样本点创建的。Coarse mask 是通过将多边形拟合到 GT mask 来模拟的。

3. 实验结果

表 2、3、4、5 分别是在添加干扰的自然图像、清晰的自然图像、医学图像、伪装物体数据集上的测试结果，完整的实验结果可以在论文中找到。实验证明了我们的方案在几乎所有的下游分割数据集上都优于预训练的 SAM 和最先进的域适应方案。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

4. 可视化结果

部分可视化结果如图 4 所示，更多的可视化结果可以在论文中找到。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

^{图 4 部分实例的可视化结果}

5. 消融实验和额外分析

我们在 COCO 数据集上分析了三个自训练优化目标各自的有效性，如表 7 所示。表 7 中，我们还分析了所提出方法在不使用任何弱监督信息时进行自适应的效果。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

我们分析了训练和测试使用不同类别的 prompt 的性能差异，如表 8 所示。实验表明我们的方案在 cross-prompt 条件下依然表现良好。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

此外，我们还分析了优化不同模块，包括解码器、LayerNorm 和不同的 finetune 方案以及他们的组合的实验结果，实验证明了 finetune 编码器的 LoRA 方案效果最佳。

CVPR 2024 | 分割一切模型SAM泛化能力差？域适应策略给解决了

总结

尽管视觉基础模型可以在分割任务上表现出色，但其在下游任务中仍会存在性能不佳的情况。我们研究了 Segment-Anything 模型在多个下游图像分割任务中的泛化能力，并提出了一种基于锚点正则化和低秩微调的自训练方法。该方法无需访问源数据集、内存成本低、与弱监督自然兼容，可以显著提升自适应效果。经过广泛的实验验证，结果表明我们提出的域适应方法可以显著改善 SAM 在各种分布迁移下的泛化能力。

本文内容来源于互联网，如有侵权请联系删除。

作者最新文章

贵州省住建厅与贝壳集团签署旅居战略合作：五大维度落地方案解析 2026-09-08 18:13

上海链家安住APP：业主主动卖房功能与成交数据解析 2026-09-08 18:11

如何批量将PPT转成PDF格式？PPT转PDF工具怎么选？ 2026-09-04 16:03

PDF文件怎么压缩？3个小技巧帮你减小体积 2026-09-03 18:03

小批量试产总结报告：新产品量产导入评审实战指南 2026-09-02 19:48

业界资讯

上一篇：三星 Galaxy Z Fold6 / Flip6 折叠手机被曝无缘安卓无缝更新

下一篇： Photoshop快捷键修改在哪里？PS2020快捷键设置方法

相关文章更多

Siri等明年！苹果WWDC25给AI交底：画小饼，继续熬

不求速胜，熬吧。

2025-06-10 0 BlueNight

业界资讯

比特现金未来：可扩展性与支付潜力

比特现金（BCH）的未来发展前景看好。凭借其可扩展性、支付采用、价值存储、智能合约和坚实的社区支持，比特现金有望在多个领域取得显著发展，成为一种多功能且广泛使用的加密货币。

2025-05-16 0 归人云淡风轻

业界资讯

ACH总量10亿，价值与用途详解

ACH 总共发行了 10 亿枚，用于支付网关费用、治理投票和质押奖励。ACH 基于 BEP-20 标准，采用 PoS 机制，可通过私募、公募和生态系统分配获取，其价值受服务需求、实用性和市场趋势影响，可在币安、火币等交易所购买。

2025-05-15 0 小宇宙叶知秋

业界资讯

Coinbase Pro设置指南：下载、登录与自定义

Coinbase Pro 设置步骤：下载并安装软件后，打开并登录，点击右上角齿轮图标进入“首选项”。在首选项中，你可以调整界面、安全、通知、交易和API设置，完成后点击“保存”按钮确认更改。

2025-05-15 0 归人云淡风轻

业界资讯

IoTeX等基础设施如何赋能IoT生态

IoTeX、DePHY和peaq是构建物联网生态系统的关键基础设施。IoTeX提供去中心化网络，确保物联网交易和数据的安全性。DePHY利用区块链技术实现频谱共享和自治管理。peaq促进设备间的数据标准化和共享。通过这些基础设施的协同作用，物联网生态系统实现了去中心化、安全、互操作性和自治，充分释放了物联网的潜力。

2025-05-15 0 RiverSoul

业界资讯

DOGE发行价多少

2025-05-15 0 RainLight

业界资讯

波场etf代码

2025-05-15 0 BrightSoul

业界资讯

TRX浏览器查询地址

2025-05-15 50 水悠悠予安

业界资讯

ChainLink跑路了吗

2025-05-15 0 RiverSoul

业界资讯

什么叫Toncoin杠杆

2025-05-15 0 WarmHope

业界资讯

热门文章更多

Yandex中文入口及登录使用全攻略 B站免费入口永久有效网址推荐 51漫画高清入口及最新章节更新 58动漫网入口及永久访问方法 B站免费入口网站高效连接方法蓝海书屋免费小说全本阅读推荐入口高德地图开启海拔显示方法海棠文学入口地址海棠小说追书绿色安全平台稳定入口 QQ网页版登录入口大全 QQ网页版官方登录指南我的世界网页版即点即玩入口推荐

精品专题更多

装机必备

正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件

正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件更多

灵活计算器

macOS/iOS/Android

灵活计算器是一款笔记式算数应用，支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然，适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师

macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。

极度公式

Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。

WINDOWS 更多

Windows 10

Windows

Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。

极度公式

Windows/macOS/Linux

密码键盘

Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出，适合把安全控制放进长期使用流程中的场景。