官方预告MiniMax M3系列AI模型即将登场

上海稀宇科技有限公司（MiniMax）今天在X平台发布推文，预告了即将推出的MiniMax M3系列模型。这则消息迅速引起了业界的关注。

推文同时转发了一篇于5月26日发表在arxiv上的论文，题为《The MiniMax-M2 Series: Mini Activations Unleashing Max Real-World Intelligence》。这篇论文系统性地回顾了其前代M2.x系列模型背后的核心技术工作。

论文的核心亮点之一，是揭示了M2.x系列模型“低激活、高智能”的设计哲学。具体来看，模型总参数高达229.9B，但每个词元（token）仅激活9.8B参数，在保证强大能力的同时，显著提升了推理效率。模型配备了192K的超长上下文窗口，其预训练数据规模更是达到了惊人的29.2T词元。

模型架构与训练系统

在模型设计上，M2系列采用了62层的解码器式Transformer架构。一个关键创新在于其专家混合（MoE）策略：模型集成了256个细粒度专家，而为每个词元仅激活其中的8个。这种设计在模型容量和计算成本之间取得了精妙的平衡。

更值得深入探讨的是其训练系统层面的突破。MiniMax提出了名为“Forge”的强化学习系统，这是一个面向智能体训练的统一平台。它的独特之处在于支持白盒与黑盒智能体的统一接入，极大地增强了系统的灵活性和通用性。

Forge系统通过将训练、推理与智能体本身进行解耦，配合窗口化FIFO调度、前缀树合并以及专门的推理加速技术，有效降低了长轨迹训练的成本。这套系统化解决方案，为复杂智能体的高效训练铺平了道路。

“自我进化”的雏形

在M2.7版本中，最引人瞩目的升级莫过于论文中提出的“自我进化”雏形。这标志着模型开始具备参与自身开发流程的初步能力。

根据论文描述，模型已经能够自主排查训练失败的原因、阅读系统日志、并修改相关的脚手架代码。在内部任务测试中，它成功完成了超过100轮的自主迭代优化。

实际效果如何？数据显示，这套“自我进化”系统已经能够分担研发团队30%到50%的日常迭代工作量。更具体的是，在内部编程脚手架的优化任务中，它带来了约30%的性能提升。这意味着，模型不再仅仅是被开发的对象，而是开始成为开发闭环中的一个积极参与者。这种“AI辅助开发AI”的模式，或许代表了下一代模型研发的重要方向。