蚂蚁集团NextEvo开源AI Infra技术，实现全面自动驾驶与大模型训练
近期，蚂蚁集团旗下AI创新研发部门NextEvo宣布全面开源AIInfra技术，该技术能够极大地提高大型模型训练的效率。根据数据显示，该技术能够将训练时间的有效占比提高至超过95%，实现了训练过程的自动化。这一突破性的进展显著推动了AI研发的效率提升。图：蚂蚁集团的自动化分布式深度学习系统DLRover现已全面开源DLRover是一个专为大规模分布式训练而设计的技术框架。在当前许多企业中，训练作业常常在复杂多变的混合部署集群中运行。无论环境多么复杂，DLRover都能轻松应对，就像在崎岖的地形上行驶一样。
近期，蚂蚁集团旗下AI创新研发部门NextEvo宣布全面开源AI Infra技术，该技术能够极大地提高大型模型训练的效率。根据数据显示，该技术能够将训练时间的有效占比提高至超过95%，实现了训练过程的自动化。这一突破性的进展显著推动了AI研发的效率提升。
图：蚂蚁集团的自动化分布式深度学习系统DLRover现已全面开源
DLRover是一个专为大规模分布式训练而设计的技术框架。在当前许多企业中，训练作业常常在复杂多变的混合部署集群中运行。无论环境多么复杂，DLRover都能轻松应对，就像在崎岖的地形上行驶一样。
2023年大模型技术的快速发展催生了工程实践的爆炸式增长。如何高效管理数据、优化训练和推理效率，充分利用现有算力，成为了关键问题。
完成一个千亿参数级别的大模型，例如GPT-3，用一张卡训练一次要耗时32年。因此，在训练过程中，充分利用算力是非常重要的。为了实现这一目标，有两种方法可以采用。首先，可以进一步提高已购买GPU的性能，以充分发挥其潜力。其次，可以利用以前无法利用的算力资源，例如CPU和内存。为了实现这一点，可以通过异构计算平台来解决这个问题。
DLRover最新集成了Flash Checkpoint（FCP）方案，用于模型训练时的Checkpoint打点。传统的Checkpoint打点方式存在耗时长、高频打点降低训练可用时间、低频打点恢复时丢失过多等问题。通过应用新方案FCP，在千亿参数模型训练后，Checkpoint导致的训练浪费时间降低了约5倍，并将持久化时间降低了约70倍。这一改进将有效训练时间从90%提升至95%。这意味着DLRover的模型训练效率得到了显著的提升。
我们还集成了三项新的优化器技术进去。优化器是机器学习的核心组件，用于更新神经网络参数以最小化损失函数。其中，蚂蚁的AGD（Auto-switchable optimizer with Gradient Difference of adjacent steps）优化器在大模型预训练任务中比传统的AdamW技术加速1.5倍。AGD已在蚂蚁内部多个场景使用并取得显著效果，相关论文已被NeurIPS '23收录。
图：在大模型预训练任务中，AGD相比AdamW可以加速1.5倍
作为自动化分布式深度学习系统，DLRover的“自动驾驶”功能模块还包括：Atorch，一种PyTorch分布式训练扩展库，在千亿参数模型千卡级别规模下，训练的算力利用率可达60%，帮助开发者进一步压榨硬件算力。
DLRover以 “ML for System” 的理念来提升分布式训练的智能度，旨在通过一个系统，让开发者完全摆脱资源配置的束缚，专注于模型训练本身。在没有任何资源配置输入的情况下，DLRover 仍然可以为每个训练作业提供最佳资源配置。
据了解，蚂蚁集团在人工智能领域持续进行技术投入，最近，蚂蚁集团在内部成立了AI创新研发部门NextEvo，承担了蚂蚁AI的所有核心技术研发，包含百灵大模型的所有研发工作，涉及AI算法、AI工程、NLP、AIGC等核心技术，并在布局多模态大模型、数字人等领域的技术研发和产品创新。
同时，蚂蚁集团还加速开源节奏，填补了国内相关技术空白，推动人工智能行业快速发展。
DLRover开源地址：https://github.com/intelligent-machine-learning/dlrover
想要免费体验DeepSeek大模型？本文提供DeepSeek网页版官方登录入口，详解注册步骤、免费额度规则及深度思考模式的使用技巧，助你安全、高效地利用AI提升工作效率。
深入解析大模型中 Temperature 和 Top-p 参数的区别。通过 Softmax 计算和累计概率示例，说明温度如何影响概率分布形状，Top-p 如何筛选候选词集合，帮助理解模型生成机制。
马斯克回应称中国大模型或于2027年一季度达到Fable级别。智谱GLM-5.2多项评测与海外头部模型差距缩小至1%-4%，在CodeArena获全球可用模型第一。智谱股价单日涨26%，市值破9000亿港元。科创板拟扩大第五套标准支持AI企业上市。
6月19日，我国首个水产育种专用智能大模型平台“蓝鲲智种”在海南发布，由青岛蓝色种业研究院联合中国海洋大学等打造，标志着水产育种领域拥有专属科学智能模型和基础平台。
研究团队提出并行循环Transformer，让70亿参数模型通过两次内部循环思考，在代码任务上超越数百亿参数的大模型，第三次循环后性能因收益-代价失衡而下降。结合显式推理链可进一步提升效果。
蚂蚁集团联合高校研发的Visual-Seeker视觉原生多模态深度搜索智能体，通过三阶段数据流水线训练，使AI在搜索中主动获取并分析图片证据。在五项多模态搜索基准测试中平均正确率达39.6%，视觉取证任务超越GPT-5等大型商业模型。
英伟达提出ZPPO方法，让大模型智慧以题目背景而非答案形式辅助小模型学习，通过二元候选、负面候选及回放缓冲区三大组件，在0.8B模型上视觉语言理解提升9.3%，全面超越现有方法。
蚂蚁集团董事会换届，新增白重恩、何小鹏、曾顺福为独立董事，史美伦、张宏江留任，独立董事占比超50%。新阵容聚焦AI战略监督。AI产品用户破亿，AI付完成3亿笔，研发投入350.3亿元，推动通用人工智能等领域。
蚂蚁集团董事会完成换届，白重恩、何小鹏、曾顺福新任独立董事，史美伦、张宏江留任。新一届董事会保持9人阵容，独立董事占比过半，治理结构更趋规范透明，彰显公司治理优化与国际接轨。
闭源API成本高、依赖性强，开放权重模型因可部署、可控、低成本而受青睐。2026年智谱GLM-5.2在特定任务接近美国前沿水平，标志前沿能力通过开放权重扩散。企业转向混合路线，模型调度层成为新机会，核心问题从“谁最强”变为“谁还愿意一直租用AI能力”。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
