DeepSeek R1推理测试：英伟达Vera Rubin吞吐量提升10倍

英伟达在7月21日发布了一条重磅消息：Vera Rubin正在迈入万亿级规模部署阶段。说实话，这个消息在行业内掀起了不小的波澜——毕竟，这不只是技术迭代，更意味着整个AI基础设施的格局正在被重新定义。 英伟达在官方博文中明确表示，Vera Rubin NVL72的量产正在加速推进，并且已经在CoreWea ve、Google Cloud、Microsoft Azure和Oracle Cloud Infrastructure等合作伙伴的系统中实际运行。可以这么说，英伟达这次是动真格的了——为了满足全球客户的计算需求，Vera Rubin在30个国家部署了超过350个工厂，建立了有史以来规模最大、最成熟的机架级供应链。这才是关键所在：在算力军备竞赛中，供应链的成熟度往往决定了技术能走多远。 而就在同一天，CoreWea ve也发布了一则消息，透露该公司早在6月初就完成了业界首个Vera Rubin NVL72的上电和验证工作。他们搭建了一套端到端的机架级系统，电力、散热、网络、计算全部跑通，并且已经进入稳定运行状态。这可不是实验室里的演示，而是实实在在的商用部署。 更有意思的是，CoreWea ve还基于DeepSeek R1做了对比测试。DeepSeek R1是目前驱动智能体AI（Agentic AI）爆发式增长的核心推理模型之一，选择它来做测试，本身就很有说服力。测试的重点落在了两个指标上：每兆瓦的token吞吐量，以及交互性（TPS/user，反映用户或智能体在模型处理任务时感受到的响应速度）。在保持交互性目标一致的前提下，Vera Rubin NVL72在相同的DeepSeek R1工作负载下，每兆瓦的token吞吐量比GB200 NVL72提升了整整10倍。这个数字意味着什么？意味着同样的电力消耗，能支撑起10倍的推理任务，这在AI应用大规模落地、电力成本日益敏感的当下，几乎是一个决定性的优势。 从整个行业的角度来看，Vera Rubin的部署不仅仅是英伟达下一代产品的落地，更是在为Agentic AI时代的算力需求打基础。当推理模型成为主流，当每一个智能体都在实时交互，算力的效率就成了绕不开的课题。Vera Rubin在这个时间点的出现，恰好卡在了关键节点上。