当前位置:

首页 > 硬件相关 > 智谱发布Infra新成果:不加一块GPU,算力多出15%

智谱发布Infra新成果:不加一块GPU,算力多出15%

智谱联合驭驯网络与清华大学,在GLM-5.1线上生产集群中规模化落地新一代网络架构ZCube。该架构在不增加GPU算力的前提下,节省了33%交换机与光模块成本,同时将GPU平均推理吞吐提升15%,并显著降低首字延迟。这意味着同等硬件投入下,大模型API每秒能多响应15%的请求,提升了并发上限与峰值流量下的稳定性。

5月21日,澎湃新闻记者获悉,智谱联合驭驯网络与清华大学,在GLM-5.1线上生产集群中完成了新一代网络架构ZCube的规模化落地。

智谱发布Infra新成果:不加一块GPU,算力多出15%

在线上GLM-5.1 coding场景中,在保持GPU算力、软件栈与应用不变的前提下,ZCube节省了33%交换机与光模块成本,同时将GPU平均推理吞吐提升了15%,并将TTFT P99降低了40.6%。

这意味着,同样的硬件投入,智谱的 GLM 大模型现在每秒能多响应 15% 的 API 请求。对于大模型 API 平台而言,这直接对应更高的并发上限以及在流量峰值下更稳定的用户体验。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
硬件相关
相关文章 更多
内存危机波及GPU市场!AMD RX 9000系列计划涨价10-15%
内存危机波及GPU市场!AMD RX 9000系列计划涨价10-15%

AMDRX9000系列显卡计划2026年第三季度提价10%至15%,主要原因是显存价格持续显著走高。受人工智能产业大量消耗内存资源影响,DRAM合约价同比大幅飙升92%,导致消费级显卡市场供应紧张,高端大显存规格型号受影响最大。

烧毁史上最惨RTX 5090!16针接口炸无踪影 GPU和显存全毁
烧毁史上最惨RTX 5090!16针接口炸无踪影 GPU和显存全毁

越南维修工作室收修的两张RTX5090中,一张16针供电接口彻底炸毁,GPU核心和显存全部报废,无法修复。维修店指出电路缺陷和制造问题,但保修政策不保火灾爆炸损坏。该接口隐患从RTX40系列延续至今,尚无根本解决方案。

时隔五年 英伟达老款GPU重新在美上市
时隔五年 英伟达老款GPU重新在美上市

英伟达时隔五年在美重新上架由技嘉生产的RTX306012GB显卡,起售价339.99美元但无现货,实际到手价溢价超45%。此举折射中端显卡供需缺口仍存,老卡重发旨在快速补充低价位段供给,但实际价格已偏离性价比初衷。

时隔五年!英伟达老款GPU重新在美上市
时隔五年!英伟达老款GPU重新在美上市

英伟达老款RTX306012GB显卡重新在美上市,技嘉版起售价339.99美元但缺货。其他厂商也在全球推出。此举源于芯片供应短缺下的产能调整,该卡采用三星8nm制程,性价比高且是Steam最受欢迎显卡,但价格与RTX5060相近,实际优势有限。

华硕 GPU Tweak III 获 v2.1.8.0 稳定版更新,为兼容显卡带来自动安全关机
华硕 GPU Tweak III 获 v2.1.8.0 稳定版更新,为兼容显卡带来自动安全关机

8月18日消息,GPU Tweak III是华硕(ASUS)推出的一款方便好用的显卡超频、设定以及监控工具应用程序。就在当地时间17日,这款软件迎来了v2.1.8.0稳定版的更新。新版本进一步丰富了华硕部分高端显卡支持的功率侦测器 +(Power Detector+)功能。在之前12+N Pin 1

我国研发首款神经动力学芯片!比英伟达GPU提速478倍
我国研发首款神经动力学芯片!比英伟达GPU提速478倍

北京大学与中科院联合研发出全球首款基于忆阻器的神经动力学专用芯片,采用40纳米制程,单次迭代仅2.12毫秒。相比英伟达A100GPU,人脑皮层三维重建加速50至478倍,功耗降至1/24,可用于脑机接口、神经导航及神经退行性疾病建模。

(Z-B)打造家用 RISC-V GPU8192 核心、环形设计、2161W 功耗
(Z-B)打造家用 RISC-V GPU8192 核心、环形设计、2161W 功耗

这事儿还得从一位硬核玩家说起。Matthias Balwierz 在 7 月 5 日于个人频道 bitluni 扔出了一个让人咋舌的工程:他用 8192 颗 QingKe CH570 RISC-V 微控制器,亲手焊出了一台家用 DIY GPU。目前这台怪兽的总功耗已经飙到 2161W,光是供电就够让

英特尔加速布局GPU 执行长陈立武证实已延揽首席架构师
英特尔加速布局GPU 执行长陈立武证实已延揽首席架构师

当前GPU市场由英伟达和AMD主导,英特尔CEO陈立武证实已延揽首席架构师,加速GPU产品布局以扭转在AI数据中心领域的落后局面。内存芯片短缺因AI需求激增加剧,预计持续至2028年。

太空的GPU坏了谁去修?马斯克认真要打造「卫星资料中心」 喊话5年后算力赢地球
太空的GPU坏了谁去修?马斯克认真要打造「卫星资料中心」 喊话5年后算力赢地球

SpaceX与xAI合并后申请卫星发射,FCC火速受理。马斯克称近地轨道太阳能效率是地面五倍,预测2028年太空AI部署最具成本效益,五年内太空算力将超地球总和。尽管存在维修、散热等挑战,政策支持或加速这一进程。

AMD CEO:与Cerebras系统将推出结合AMD Helios GPU服务器机架与Cerebras晶圆级芯片的AI推理方案
AMD CEO:与Cerebras系统将推出结合AMD Helios GPU服务器机架与Cerebras晶圆级芯片的AI推理方案

AMD与Cerebras宣布合作,将AMDHeliosGPU服务器机架与Cerebras晶圆级芯片结合,通过云服务提供高速AI推理能力,产品预计今年晚些时候上市。双方优势互补,旨在加速AI计算,满足大规模推理需求。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程
PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
Postman macOS版
Postman macOS版
Mac

Postman是一套面向API全生命周期的开发与测试平台,可在Mac上发送和调试多种协议请求,管理集合、环境及认证信息,并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用,提供个人免费方案。

Docker Desktop macOS版
Docker Desktop macOS版
Mac

Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境,集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。

Android Studio macOS版
Android Studio macOS版
Mac

Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境,基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。

WINDOWS 更多
PixPix 网页版
PixPix 网页版
Windows

PixPix 是面向品牌、卖家和内容团队的在线 AI 图片视频创作平台,提供图视频 Agent、无限画布、图片生成、视频生成、自然语言编辑及商品套图、产品精修和带货视频等电商工具。

Postman Windows版
Postman Windows版
Windows

Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求,并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等

Docker Desktop Windows版
Docker Desktop Windows版
Windows

Docker Desktop 为 Windows 开发者提供集成式容器环境,内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件,可在本机完成镜像构建、容器运行、日志查看和资源管理。