端侧超高效骨干RepGhost | GhostNet重参数赋能,性能爆棚
通过结构重参数机制实现特征复用的作者们,赋予了GhostNet新的生命力,提出了硬件友好的方案RepGhostNet。在ImageNet和COCO基线任务中,验证了该方案的有效性和高效性。下图显示,与MobileOne、MobileNeXt等轻量型架构相比,RepGhostNet表现更加出色!速览版请继续阅读!出发点GhostNet通过引入廉价操作实现特征复用,但引入了对硬件不友好的Concat操作。尽管Concat特征复用无需参数和FLOPs,但其计算耗时不可忽视,如上图所示。那么,如何更高效地进行特征
通过结构重参数机制实现特征复用的作者们,赋予了GhostNet新的生命力,提出了硬件友好的方案RepGhostNet。在ImageNet和COCO基线任务中,验证了该方案的有效性和高效性。下图显示,与MobileOne、MobileNeXt等轻量型架构相比,RepGhostNet表现更加出色!速览版请继续阅读!

出发点

GhostNet通过引入廉价操作实现特征复用,但引入了对硬件不友好的Concat操作。尽管Concat特征复用无需参数和FLOPs,但其计算耗时不可忽视,如上图所示。那么,如何更高效地进行特征复用呢?答案是结构重参数!!!

上图展示了从Ghost到RepGhost的进化过程,包括以下三点:
- 使用Add替代Concat以降低耗时;
- 迁移ReLU以符合重参数折叠机制;
- 引入BN到shortcut分支进一步提升非线性。

上图展示了Bottleneck的改进过程:主要体现在通道数的调整,这是因为从Concat到Add的过渡会导致通道数发生变化。作者主要调整了中间通道数,而保持输入与输出通道数不变。

本文的实验结果
以下两个表格展示了在ImageNet和COCO数据集上的性能对比,RepGhost在轻量化方面表现出色,FLOPs基本在300M以内。



Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。
















