云天励飞IFWA软件栈完成腾讯混元Hy3关键链路适配验证
云天励飞基于自研IFWA软件栈，在DeepVerse云端芯片验证平台上完成腾讯混元Hy3模型的关键推理链路适配验证，覆盖MoE、GQA、MTP等核心环节，验证了软件栈的兼容性与组件复用能力，为平台化适配奠定基础。
最近，腾讯混元团队开源了新一代大语言模型 Hy3。这件事本身不新鲜，新鲜的是它带来的适配挑战。云天励飞基于自研的 IFWA 软件栈，在 DeepVerse 云端芯片验证平台上，完成了 Hy3 模型结构接入和关键推理链路的验证。可以把这次验证看作一次"压力测试"——测试的是 IFWA 软件栈对先进架构的兼容能力和复用潜力。
这次验证基于 BF16 精度和缩小配置，重点覆盖了模型配置解析、模型加载、Dense 与 MoE 混合层执行、专家路由、GQA 解码、KV Cache 分配、Token 采样以及 MTP 投机解码等核心环节。在普通推理和开启 MTP 投机解码两种模式下，系统都完成了从模型加载到 Token 输出的端到端功能流程，初步验证了 IFWA 推理框架、底层软件组件以及芯片架构对 Hy3 主要架构特征的兼容能力。
验证的意义，不止是跑通了一款先进开源模型的关键推理链路。更重要的，是验证了 IFWA 既有软件组件在新模型适配中的复用能力。通过将 MoE 路由、GQA 注意力、MTP 投机解码、KV Cache 管理等共性能力沉淀为可复用的软件组件，IFWA 在提升对模型架构变化的响应速度。这才是关键所在——缩短模型适配周期、减少重复开发、提升自研芯片产品交付效率，全都仰仗这种"平台化"的软件能力。
IFWA支持Hy3适配技术点
大模型快速演进，软件栈决定算力落地效率
当前，大模型架构仍在快速演进。混合专家（MoE）、长上下文、分组查询注意力（GQA）、投机解码等技术不断被引入主流模型，对推理系统提出了更复杂的要求。Hy3 采用混合专家架构，总参数规模为 295B，但每次推理只激活 21B 参数，支持 256K 上下文长度，并集成 GQA 注意力和 MTP 投机解码。这些特征对软件栈的模型解析、算子执行、专家调度、缓存管理和推理框架兼容能力，都提出了较高要求。
对算力芯片企业来说，让一个模型跑起来只是第一步。真正的挑战在于：软件栈能否适应模型架构的持续变化？能否把不同模型中的共性能力做成稳定组件，让后续模型接入时少做重复工作？只有软件能力跟得上，硬件算力才能更快地进入客户的真实业务场景。
不为单个模型重做后端，复用既有软件基础设施
这次 Hy3 接入过程中，云天励飞没有为该模型重建独立后端，也没有围绕单一模型重新开发全新的核心算子。研发团队主要复用了 IFWA 此前在先进模型适配过程中建设的通用组件，并在此基础上完成必要的模型路由适配和 GQA 解码路径完善。MoE 路由、GQA 注意力、MTP 投机解码等能力，都来自 IFWA 既有软件基础设施。以 GQA 解码路径为例，本次完善不只服务于 Hy3，后续也可以被其他采用类似注意力架构的模型复用。
这也是 IFWA 软件栈建设中的一个重要方向：每接入一款有代表性的模型，尽量把其中可复用的部分沉淀下来，减少下一次接入同类模型时的重复开发。随着这类基础能力不断完善，模型适配将逐步从"逐个模型开发"转向"平台化适配"。
从单模型接入走向平台化适配
IFWA 是云天励飞面向自研芯片体系建设的统一软件栈平台，覆盖编译器、Runtime 与 Driver、基础算子库、推理框架插件、集合通信以及开发调试工具等核心环节。在大模型快速迭代的背景下，云天励飞的目标不是针对每一款新模型都重新开发一套软件方案，而是通过通用组件、标准接口和自动化验证体系，形成可以快速承接先进模型的软件产品能力。
在 Hy3 适配过程中，IFWA 已有的 MoE、GQA、MTP、KV Cache 等能力得到复用，模型专属改动范围得到控制。这说明 IFWA 的部分通用能力已经可以在新模型接入中发挥作用，也为后续支持更多先进模型打下基础。对于客户而言，软件栈的价值不只是"模型能跑"，还包括模型迁移是否顺畅、部署验证是否高效、既有代码和开发投入能否延续。统一、稳定的软件能力，可以帮助客户减少重复适配工作，降低后续迁移和维护成本。
持续推进真实规格、真实权重与多卡场景验证
目前，Hy3 已在 DeepVerse 云端芯片的芯片验证平台上完成模型结构接入和关键功能链路验证。后续，云天励飞将继续推进真实规格、真实权重及多卡部署场景测试，进一步验证 IFWA 在完整工程场景下对 Hy3 的支持能力。下一阶段，将开展真实注意力维度验证、真实模型权重加载及精度一致性测试，并推进张量并行、专家并行等多卡部署场景验证。同时，Hy3 相关测试用例也将逐步纳入 IFWA 常规回归体系，持续提升软件版本迭代过程中的稳定性和一致性。针对 Hy3 的 FP8 量化版本，后续将结合 IFWA 混合精度和量化能力建设进展，进一步开展技术可行性评估。
构建端边云一体、跨代兼容的统一软件基座
云天励飞正在以主流计算生态兼容能力为基础，持续建设端边云一体、跨代兼容的统一软件产品基座，推动模型、代码、算子和开发工具在不同芯片代际以及云侧、边缘侧平台之间逐步复用。面向自研芯片体系，IFWA 将持续支撑 DeepVerse 系列产品交付和重点场景验证，并推动相关软件能力向后续芯片代际及 DeepEdge 系列产品延展。通过统一的软件栈能力，云天励飞希望进一步降低跨代迁移和多平台适配成本，减少云侧与边缘侧重复开发，提升模型开发、系统交付和后续运维的一致性。
未来，云天励飞将持续完善 IFWA 软件栈，把模型适配过程中的共性能力转化为可复用的软件资产，让自研芯片更快进入客户业务场景。
腾讯混元3.0正式版上线，采用295B总参数MoE架构，聚焦任务执行与推理能力提升。价格降至输入1元/百万tokens，办公场景任务成功率从72%提升至90%，幻觉率下降超一半。坚持性价比路线，已在多个内部业务部署。
腾讯发布Hy3大模型，MoE架构，总参数295B，激活21B，支持256K上下文。API输入1元/百万tokens，输出4元，缓存命中0.25元。能力较预览版跃升，小尺寸比肩大尺寸旗舰。
腾讯混元发布并开源Hy3模型，在推理、智能体、长上下文任务上显著进步，智能水平超越同尺寸模型，比肩2至5倍规模旗舰模型。后训练优化数据与强化学习，降低API成本至每百万Tokens输入1元，全面开源于GitHub等平台。
腾讯混元大模型Hy3正式发布，由首席AI科学家姚顺雨操刀，以21B激活参数对标更大规模模型，Agent能力显著提升。该模型已接入元宝、WorkBuddy等业务，WorkBuddy使用规模三个月增长两个数量级，微信AI助手“小微”启动内测。受AI业务前景提振，腾讯港股当日上涨4.82%。
腾讯混元Hy3发布，采用快慢思考融合MoE架构，总参数295B、激活21B，支持256K上下文。Agent能力显著提升，定价输入1元、输出4元/百万tokens，开源Apache2.0，已在多个业务接入并取得效果提升。
腾讯混元发布Hy3模型，采用MoE架构，总参数295B、激活参数21B。通过“小激活、大总参”降低成本，经业务打磨后任务成功率提升、幻觉率下降。在WorkBuddy中仅用5分钟即可生成可玩的3D跑酷小游戏，验证了模型实用价值。
海光深算系列DCU完成与腾讯混元大模型Hy3正式版的全面深度适配，针对智能体能力、MoE稀疏激活架构及低延迟推理等关键特性进行专项优化，推动国产硬件与大模型从“能用”迈向“好用”。
腾讯混元联合多所高校提出PolyFlow，通过拓扑嵌入器将离散网格拓扑转为连续向量，结合流匹配模型并行生成网格，速度比自回归方法快数十倍，倒角距离降低43%，且支持用户指定顶点数量。
腾讯混元AIInfra团队近日开源了HPC-Ops高性能LLM推理算子库，基于CUDA和CuTe从零重构，涵盖FusedMoE、Attention等核心模块。实测显示，混元系列模型推理QPM提升30%，DeepSeek提升17%，Attention算子最高提速2.22倍，推理效率显著提升，广泛适用于各类大模型推理场景，性能优越。
腾讯混元发布混元图像3.0图生图模型，采用80B参数MoE架构，支持图像编辑与多图融合，已在元宝平台上线。模型具备语义理解与逻辑推理能力，可精准执行对象增删、风格迁移等任务。通过千万级多任务数据集和思维链范式训练，结合MixGRPO强化学习优化，显著提升指令响应质量。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
