DeepSeek R1推理测试：Arc Pro B70吞吐最高2320.76 token/s

蓝戟最近干了一件事，让整个AI硬件圈都有些意外——他们拿英特尔Arc Pro B70 GPU去跑DeepSeek R1模型，结果在吞吐量上，竟然把RTX 5090D和RTX 4090D都给比下去了。

这不是虚构场景，而是实打实的测试。测试环境用的是四张显卡并行，参与对比的核心选手有三款：英特尔Arc Pro B70 32GB、英伟达RTX 5090D 32GB和RTX 4090D 24GB。评估标准也很明确——DeepSeek R1-Distill Qwen 32B FP16模型，固定输入输出长度128个tokens，并发范围从1一直拉到512，核心看token/s吞吐量。

数据摆出来，结果相当有意思。当并发低于32时，RTX 5090D稳稳地站在顶端，RTX 4090D紧随其后，Arc Pro B70的表现则基本能与4090D打个平手。

但转折点出现在并发提升之后——当并发数达到32和64的时候，Arc Pro B70已经开始追平乃至反超RTX 4090D。到并发128这个关键节点，Arc Pro B70的token吞吐量比RTX 5090D高出8.6%，比RTX 4090D高出34.2%。

随着并发继续走高，这个优势还在扩大：并发256时，Arc Pro B70比RTX 5090D高7.5%，比RTX 4090D高48.7%；并发512时，差距依然维持在这个量级。

更直观的数据是单卡峰值表现：英特尔Arc Pro B70 GPU最终的Tokens吞吐量达到了每秒2320.76个Token，在所有参测显卡中排在首位。

这组数据释放出的信号其实很明确：在高并发的AI推理场景中，传统的“性能等级”判断方式可能需要重新审视。英伟达在单卡绝对算力上仍然占据优势，但英特尔Arc Pro B70在大规模并发任务下的吞吐表现，显然找到了自己的节奏。对于关注大模型推理部署效率的团队来说，这无疑是一个值得认真考虑的选项。