美团LongCat-2.0开源推理代码 大模型总参数达1.6万亿

7月6日，美团正式开源了万亿参数大模型LongCat-2.0，并同步开放了针对国产算力芯片深度优化的推理代码。这个消息在业内引发了不少关注——毕竟，1.6万亿的总参数、平均激活约48B的规模，加上专为Agentic Coding任务设计的定位，意味着这不仅仅是一个“大”模型，更是一个有明确工程落地方向的产品。

从架构层面看，LongCat-2.0引入了两个关键设计：LongCat稀疏注意力机制（LSA）和N-gram Embedding。LSA通过流感知索引、跨层索引等策略，将百万级长上下文的训练与推理效率拉高了一个台阶；而N-gram Embedding则用135B参数构建了一个新模块，在MoE稀疏度逼近97%的极端条件下，进一步强化代码的理解与生成能力。说白了，这就像给模型装了一副“长焦镜头”——既能看清全局上下文，又能精准聚焦代码中的关键模式。

后训练阶段，团队采用了多教师在线蒸馏策略，把专家分为Agent、推理和交互三类。这样的分类设计很有讲究：Agent专家负责自主执行任务，推理专家主攻逻辑拆解，交互专家则确保安全对齐和对话流畅性。三个角色各司其职，让模型在复杂编码场景下既能“想”又能“做”，还能“说清楚”。

更值得关注的是，LongCat-2.0是业界首个在五万卡国产算力集群上完成推理的万亿参数模型。这个“第一”的含金量不低——从模型架构、芯片适配到部署策略，团队做了深度协同优化：Super Kernel减少算子启动开销，Weight Prefetch隐藏I/O延迟，PD分离部署和KV-cache切分则有效缓解了显存与带宽瓶颈。结果是，百万级别的上下文能在国产芯片上稳定跑起来，这对于盘活存量国产算力来说，意义重大。

此次开源还提供了BF16、FP8、INT8等多精度版本，覆盖不同算力平台的部署需求。美团的表态也很明确：希望通过开源这条纽带，让更多国产卡——哪怕是旧卡——都能流畅承载万亿大模型的推理服务，释放国产算力生态的长期价值。这不是一句空话，从技术细节到工程实现，LongCat-2.0确实给出了一条可复用的路径。