当前位置:

首页 > 硬件相关 > DeepSeek R1推理测试:Arc Pro B70吞吐最高2320.76 token/s

DeepSeek R1推理测试:Arc Pro B70吞吐最高2320.76 token/s

蓝戟测试ArcProB70四卡运行DeepSeekR1,并发128时吞吐量比5090D高8.6%,比4090D高34.2%;单卡峰值2320.76token/s,高并发表现突出,传统性能判断需重新审视。

本文目录

    蓝戟最近干了一件事,让整个AI硬件圈都有些意外——他们拿英特尔Arc Pro B70 GPU去跑DeepSeek R1模型,结果在吞吐量上,竟然把RTX 5090D和RTX 4090D都给比下去了。

    这不是虚构场景,而是实打实的测试。测试环境用的是四张显卡并行,参与对比的核心选手有三款:英特尔Arc Pro B70 32GB、英伟达RTX 5090D 32GB和RTX 4090D 24GB。评估标准也很明确——DeepSeek R1-Distill Qwen 32B FP16模型,固定输入输出长度128个tokens,并发范围从1一直拉到512,核心看token/s吞吐量。

    数据摆出来,结果相当有意思。当并发低于32时,RTX 5090D稳稳地站在顶端,RTX 4090D紧随其后,Arc Pro B70的表现则基本能与4090D打个平手。

    但转折点出现在并发提升之后——当并发数达到32和64的时候,Arc Pro B70已经开始追平乃至反超RTX 4090D。到并发128这个关键节点,Arc Pro B70的token吞吐量比RTX 5090D高出8.6%,比RTX 4090D高出34.2%。

    随着并发继续走高,这个优势还在扩大:并发256时,Arc Pro B70比RTX 5090D高7.5%,比RTX 4090D高48.7%;并发512时,差距依然维持在这个量级。



    更直观的数据是单卡峰值表现:英特尔Arc Pro B70 GPU最终的Tokens吞吐量达到了每秒2320.76个Token,在所有参测显卡中排在首位。


    这组数据释放出的信号其实很明确:在高并发的AI推理场景中,传统的“性能等级”判断方式可能需要重新审视。英伟达在单卡绝对算力上仍然占据优势,但英特尔Arc Pro B70在大规模并发任务下的吞吐表现,显然找到了自己的节奏。对于关注大模型推理部署效率的团队来说,这无疑是一个值得认真考虑的选项。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 DeepSeek
    相关文章 更多
    chat-demo v0.1.1怎么本地运行并理解DeepSeek历史数据边界
    chat-demo v0.1.1怎么本地运行并理解DeepSeek历史数据边界

    chat-demo v0.1.1可以作为静态聊天客户端在本地运行,但模型、搜索、文件和语音能力仍由DeepSeek API提供。源码运行环境为Node.js 22.12及以上、Git与pnpm。Demo版本号不等于应用API版本;这套应用API未单独标版本,默认聊天模型ID是deepseek-flash。

    怎么用DeepSeek辅助写小红书爆款标题
    怎么用DeepSeek辅助写小红书爆款标题

    用DeepSeek辅助写小红书标题时,应先提供受众、核心卖点、真实素材、语气和字数限制,让模型批量生成候选标题,再人工核对事实、敏感表达和平台规范。标题是否获得高点击还受内容质量和账号表现影响,不能把模型结果当作爆款保证。

    DeepSeek模型权重与DeepInfer有什么区别?开源对象和生态协作
    DeepSeek模型权重与DeepInfer有什么区别?开源对象和生态协作

    了解DeepSeek模型权重与DeepInfer推理框架的对象差异,查看官方项目入口,并从价格竞争、开发者协作和小团队参与三个角度理解开源策略。

    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?
    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?

    理清幻方量化与DeepSeek的发展脉络,关键在于区分早期萤火二号的A100集群积累与DeepSeek-V3的H800训练配置。本文解析软硬件协同工程在其中的作用,避免将资金投入简单等同于模型能力。

    DeepSeek返回空内容怎么办怎么处理
    DeepSeek返回空内容怎么办怎么处理

    DeepSeek返回空内容时,先检查content是否只有空格,再查看finish_reason、reasoning_content、tool_calls和流式事件。JSON模式提示不完整、输出预算不足、内容过滤、工具调用未处理或SSE解析错误都可能造成“看起来为空”。

    DeepSeek怎么开启流式输出stream
    DeepSeek怎么开启流式输出stream

    DeepSeek开启流式输出只需在API请求中设置stream=true并逐块读取SSE事件。Chat Completions以data: [DONE]结束,Responses API则以response.completed、response.incomplete或response.failed结束,两种协议不能混用同一套结束判断。

    DeepSeek怎么开启JSON模式输出结构化数据
    DeepSeek怎么开启JSON模式输出结构化数据

    DeepSeek开启JSON模式需要在请求中设置response_format为json_object,并在系统或用户提示词中明确要求输出JSON及字段示例,同时设置足够的max_tokens。返回后仍应解析和校验字段,空白内容或截断时执行重试。

    DeepSeek-V4提示词怎么写效果更好公式
    DeepSeek-V4提示词怎么写效果更好公式

    DeepSeek-V4提示词可按“目标+背景+输入+约束+输出格式+验收标准+示例”编写。先明确要完成的任务,再提供必要材料和边界,最后规定可检查的输出结构,比堆砌角色词或空泛要求“更专业”更稳定。

    DeepSeek上传文件失败提示超限怎么办
    DeepSeek上传文件失败提示超限怎么办

    DeepSeek上传文件提示超限时,先确认是在App、网页还是API中上传,再检查单文件大小、格式、图片尺寸、文件数量和账号存储配额。App或网页可压缩、拆分后重传;API图片文件单个最大64 MiB,并只支持JPEG、PNG、GIF和WebP。

    DeepSeek-V4-Pro思考模式怎么调推理强度
    DeepSeek-V4-Pro思考模式怎么调推理强度

    DeepSeek-V4-Pro的推理强度可通过API的reasoning_effort设置为low、high或max,并配合thinking启用思考模式;网页和App通常只提供模式切换,不一定开放细粒度强度。本文给出参数、代码和无效配置排查方法。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。