当前位置:

首页 > 硬件相关 > 英伟达刷新DeepSeek V4推理纪录:单Token成本降至1/5

英伟达刷新DeepSeek V4推理纪录:单Token成本降至1/5

Vegas Movie Studio 16 Platinum
Vegas Movie Studio 16 Platinum

一款功能强大的目前最新版本视频处理软件,内置丰富的视频转场特效供用户选择使用,支持多种主流音视频编码的转换功能。

立即下载
2026-08-22
图形多媒体 视频编辑 多媒体类 下载 注册码 Studio movie 教程 序列号

英伟达在Blackwell针对DeepSeekV4全栈推理优化,单Token成本降至上月五分之一。采用分离服务、专家并行、NVLink及NVFP4,单卡吞吐量提升20倍,实现最低推理成本。

本文目录

    英伟达这边又放了个大招。昨天(6月30日)官方博文透露,在自家Blackwell平台上,通过全栈推理优化,针对DeepSeek V4模型,其单Token成本直接降到了一个月前上线初期的五分之一——这个降幅,放在整个行业里都是相当炸裂的。


    先简单解释一下什么叫单Token成本。你可以把它理解成模型每生成或处理一个基础语义单元(token)要花多少钱。这个指标直接决定了企业在部署大模型时的“燃料费”,所以英伟达已经明确把它列为了AI总拥有成本(TCO)的核心衡量标准。而这一次,Blackwell平台给出的答案是:针对DeepSeek V4,我们已经做到了行业最低。

    这么大的成本下降,靠的不是某单一技术,而是一整套体系化的优化思路。英伟达在博文中把工作拆成了三个层次:

    • 生产运营层——主要管分布式服务、编排、自动扩缩容和内存管理,相当于AI推理的“调度大脑”;
    • 应用加速层——专注于运行时优化,比如计算与通信的重叠、内核融合,让每个算子都跑得更高效;
    • 基础设施访问层——直接调用GPU、网络、内存与系统能力,把硬件潜力彻底榨干。


    真正让人眼前一亮的是性能层面的突破。英伟达搞了一套组合拳:分离式服务、大规模专家并行、基于NVIDIA NVLink的并行通信、NVFP4精度,再加上多token预测等等。把这些技术叠加优化之后,Blackwell平台上单GPU的token吞吐量最高提升了20倍。注意,这不是实验室数据,是跑DeepSeek V4的实际效果——20倍的吞吐量提升,意味着单位时间内能处理的请求暴增,单Token成本自然就压下来了。



    几个关键细节值得反复琢磨:专家并行和NVLink的结合,让大规模模型拆成多个专家后还能高效通信,避免了“跨卡通信卡脖子”的老问题;NVFP4精度则是在几乎不影响模型效果的前提下,大幅降低了显存和带宽占用——这两项加在一起,才是能把成本砍到五分之一的真正杀手锏。

    从行业角度看,英伟达这次的动作其实是在传递一个信号:大模型推理的成本天花板正在被系统性击穿。对于企业用户来说,这意味着部署DeepSeek V4这样的大模型不再只是“烧钱实验”,而是开始具备实实在在的商业可行性。当然,Blackwell平台的门槛不低,但单Token成本降到五分之一这个数字,足以让很多观望中的企业重新算一笔账了。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 DeepSeek
    相关文章 更多
    chat-demo v0.1.1怎么本地运行并理解DeepSeek历史数据边界
    chat-demo v0.1.1怎么本地运行并理解DeepSeek历史数据边界

    chat-demo v0.1.1可以作为静态聊天客户端在本地运行,但模型、搜索、文件和语音能力仍由DeepSeek API提供。源码运行环境为Node.js 22.12及以上、Git与pnpm。Demo版本号不等于应用API版本;这套应用API未单独标版本,默认聊天模型ID是deepseek-flash。

    怎么用DeepSeek辅助写小红书爆款标题
    怎么用DeepSeek辅助写小红书爆款标题

    用DeepSeek辅助写小红书标题时,应先提供受众、核心卖点、真实素材、语气和字数限制,让模型批量生成候选标题,再人工核对事实、敏感表达和平台规范。标题是否获得高点击还受内容质量和账号表现影响,不能把模型结果当作爆款保证。

    DeepSeek模型权重与DeepInfer有什么区别?开源对象和生态协作
    DeepSeek模型权重与DeepInfer有什么区别?开源对象和生态协作

    了解DeepSeek模型权重与DeepInfer推理框架的对象差异,查看官方项目入口,并从价格竞争、开发者协作和小团队参与三个角度理解开源策略。

    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?
    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?

    理清幻方量化与DeepSeek的发展脉络,关键在于区分早期萤火二号的A100集群积累与DeepSeek-V3的H800训练配置。本文解析软硬件协同工程在其中的作用,避免将资金投入简单等同于模型能力。

    DeepSeek返回空内容怎么办怎么处理
    DeepSeek返回空内容怎么办怎么处理

    DeepSeek返回空内容时,先检查content是否只有空格,再查看finish_reason、reasoning_content、tool_calls和流式事件。JSON模式提示不完整、输出预算不足、内容过滤、工具调用未处理或SSE解析错误都可能造成“看起来为空”。

    DeepSeek怎么开启流式输出stream
    DeepSeek怎么开启流式输出stream

    DeepSeek开启流式输出只需在API请求中设置stream=true并逐块读取SSE事件。Chat Completions以data: [DONE]结束,Responses API则以response.completed、response.incomplete或response.failed结束,两种协议不能混用同一套结束判断。

    DeepSeek怎么开启JSON模式输出结构化数据
    DeepSeek怎么开启JSON模式输出结构化数据

    DeepSeek开启JSON模式需要在请求中设置response_format为json_object,并在系统或用户提示词中明确要求输出JSON及字段示例,同时设置足够的max_tokens。返回后仍应解析和校验字段,空白内容或截断时执行重试。

    DeepSeek-V4提示词怎么写效果更好公式
    DeepSeek-V4提示词怎么写效果更好公式

    DeepSeek-V4提示词可按“目标+背景+输入+约束+输出格式+验收标准+示例”编写。先明确要完成的任务,再提供必要材料和边界,最后规定可检查的输出结构,比堆砌角色词或空泛要求“更专业”更稳定。

    DeepSeek上传文件失败提示超限怎么办
    DeepSeek上传文件失败提示超限怎么办

    DeepSeek上传文件提示超限时,先确认是在App、网页还是API中上传,再检查单文件大小、格式、图片尺寸、文件数量和账号存储配额。App或网页可压缩、拆分后重传;API图片文件单个最大64 MiB,并只支持JPEG、PNG、GIF和WebP。

    DeepSeek-V4-Pro思考模式怎么调推理强度
    DeepSeek-V4-Pro思考模式怎么调推理强度

    DeepSeek-V4-Pro的推理强度可通过API的reasoning_effort设置为low、high或max,并配合thinking启用思考模式;网页和App通常只提供模式切换,不一定开放细粒度强度。本文给出参数、代码和无效配置排查方法。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?