云天励飞：正在研发的推理芯片引入3D堆叠存储架构
云天励飞正研发下一代推理芯片，采用GPNPU架构以解决大模型推理的效率与成本挑战。该芯片强调通用编程能力以兼容现有生态，优化NPU内核提升能效比，并引入3D堆叠存储架构突破内存瓶颈。此外，通过算力积木架构可构建超节点以支持超大规模模型，旨在显著降低推理成本，推动AI应用普惠化。
近日，云天励飞在公开披露的投资者关系记录中，详细介绍了其正在研发的下一代推理芯片。这款芯片的核心技术路线，围绕一个名为GPNPU的架构展开，旨在系统性地解决当前大模型推理面临的效率与成本挑战。其技术亮点主要聚焦于四个关键层面。
一、GPGPU级通用编程能力：破解“易用性”难题
国内芯片产业常面临一个现实痛点：生态壁垒高，客户迁移成本大。针对这一点，云天励飞的GPNPU架构将“通用编程能力”放在了首位。该架构强调对CUDA等主流开发生态的兼容与迁移支持，这意味着开发者在现有框架下训练的模型，能够以更低的门槛部署到新芯片上。这无疑是为客户扫清了采用国产芯片的一大障碍，让技术切换变得平滑。
二、极致能效的NPU内核：追求推理性价比
光有通用性还不够，推理芯片的核心竞争力最终要落到能效比上。公司的第二项技术重点，便是对NPU内核进行深度优化，专门针对推理场景的计算特性进行设计。目标很明确——在单位功耗下，榨取出更高的推理性能，从而直接提升整个推理任务的性价比。这对于需要大规模、长时间运行模型的场景来说，是降低运营成本的关键。
三、引入3D堆叠存储架构：突破“内存墙”瓶颈
随着模型参数量的爆炸式增长，传统的存储架构已成为制约算力发挥的“内存墙”。数据在存储器和处理器之间的搬运速度，往往赶不上计算速度，造成算力闲置。为此，云天励飞在这款推理芯片中引入了3D堆叠存储架构。简单来说，这种技术能让存储单元更“贴近”计算核心，从而获得更高的数据带宽和更低的访问延迟。这相当于拓宽了数据供给的“高速公路”，让强大的算力引擎能够持续“饱腹”工作，从而显著提升整体推理效率。
四、算力积木架构：构建Scale-up超节点
面对未来万亿参数乃至十万亿参数级别的MoE架构大模型，单颗芯片的算力可能捉襟见肘。云天励飞的应对策略是“化零为整”。公司基于过去五年在国产工艺上的技术积累，提出了“算力积木”架构。其理念是，像搭积木一样，利用下一代芯片单元构建出机架级的Scale-up超节点。这种设计能够灵活地聚合大规模算力，以满足超大规模模型对庞大体量、高带宽互联的极致推理需求。
目标：指数级降低Token成本，推动应用普惠
综合以上四点技术路径，云天励飞的目标清晰而宏大：通过芯片底层的系统性创新，实现推理Token成本的指数级下降。只有当推理成本降到足够低时，大模型技术才能真正走出实验室和高成本试点的局限，实现大规模的商业化应用与普惠化落地。这不仅是单一产品的目标，更是推动整个AI产业向纵深发展的关键一步。
英伟达发布定制HBM技术NVHBM，通过集成内存控制器至HBM基础裸片，实现带宽较HBM4E提升30%、功耗降低15%，并释放主芯片25%空间。亚马逊Annapurna Labs为首个合作伙伴，该技术旨在通过标准化方案加速定制AI芯片开发，而非取代通用HBM。
美股芯片股盘前全线走强，美光科技涨近5%，阿斯麦涨4.5%，迈威尔科技涨4%，英特尔涨3.5%，台积电涨约2%。在震荡市场中，芯片板块表现亮眼，主要受人工智能需求及行业前景提振。
美股芯片板块全线拉升，费城半导体指数涨超5%。特朗普宣布苹果、英伟达同意与英特尔合作，马斯克同意建造全球最大芯片工厂，带动英特尔盘中大涨近12%。多只芯片股涨幅超6%，存储板块亦集体走高。
璇相科技发布百万级超表面光镊阵列芯片，联合中器无量在中性原子平台完成系统适配与光场验证。芯片约4毫米直径工作区域生成百万级光镊位点，为公开最大规模。超表面无需中继光路直接投射光场，但原子装载与阵列重排仍待解决。
苹果iPhone18Pro搭载的A20Pro芯片采用WMCM封装，DRAM移至侧面以改善散热，支持96-bit位宽LPDDR6内存，NPU面积扩大但封装尺寸不变，强化端侧AI性能。
芯片工艺命名从28纳米起成为数字游戏，3纳米仅是项目名称。实际金属半节距从28纳米到3纳米未变，栅极间距仅缩减3纳米。性能提升依赖FinFET、EUV光刻机及GAA技术，硅基芯片已接近物理极限。
高通下一代旗舰芯片路线图曝光，含3nm/2nm，目标2026-2027年安卓旗舰。2nmSM8975采用2+3+3核A850GPU，定位最强2nm，成本高仅限Ultra。SM8950主打性能功耗平衡。
IBM推出全球首款0.7nm芯片技术，采用纳米堆叠架构，集成近1000亿颗晶体管，性能提升50%，能效比提升70%，SRAM容量降低40%，实验验证可行，预计未来五年内量产。
中科海光C86-5G曝光，拥有128核512线程，支持SMT4与16通道DDR5内存，对标英特尔至强和AMDEPYC高端产品。IPC较上一代提升超17%，支持PCIe5.0和CXL2.0，面向高并发云计算、大数据等场景，国产服务器芯片迈出正面突围关键一步。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
