DeepSeek V4引爆软件栈大战！AMD ROCm 14天性能暴涨75倍：硬刚NVIDIA CUDA

最近AI硬件圈有个消息挺有意思：AMD的ROCm软件栈，在DeepSeek V4发布后的短短两周内，推理吞吐性能竟然实现了75倍的飙升。

这个数据来自SemiAnalysis旗下的InferenceX性能测试平台，测试覆盖了FP4和FP8精度下8K和1K上下文的典型应用场景，截止日期是5月8日。性能暴涨带来的直接好处是，在保持相同交互水平的前提下，token处理能力同步增强，推理延迟被有效压低——这对终端用户来说，意味着更流畅、更“跟手”的体验。

更关键的是，这次飞跃完全是通过软件栈的深度优化实现的，硬件本身纹丝未动。这无疑展示了AMD在AI软件生态上令人侧目的快速迭代能力。那么，这75倍的提升究竟从何而来？

软件优化的“组合拳”

核心驱动力来自两大优化。其一是融合了mHC操作与RoPE哈达玛变换，这一手不仅降低了CPU的开销，还显著提高了HBM内存的利用效率。其二，像索引器、键值缓存压缩器这些核心计算内核，现在都采用了TileLang和Triton语言进行编写。这种开发模式的优势在于，它能大幅加快从想法到实现的迭代速度，让优化工作可以更敏捷地推进。

当然，话说回来，尽管进步神速，但ROCm目前与业界标杆之间仍有差距。测试数据显示，在单节点性能上，它与英伟达的B200相比还有大约5倍的差距；如果对标PD解耦版本的B200，也还有1.5倍的提升空间。

不过，市场的期待值已经被拉高了。有相关信息显示，AMD有望在未来几周内完成剩余的性能优化目标，进一步缩小与NVIDIA CUDA在软件生态上的技术差距。值得玩味的是，这次性能冲刺的背景是：在DeepSeek V4发布后，AMD ROCm团队是在没有提前拿到模型权重的情况下启动适配的。仅用大约两周时间就交出这样一份成绩单，其反应速度和工程执行力，确实值得关注。