元象首个MoE大模型开源：4.2B激活参数，效果堪比13B模型
元象发布XVERSE-MoE-A4.2B大模型，采用业界最前沿的混合专家模型架构（MixtureofExperts），激活参数4.2B，效果即可媲美13B模型。该模型全开源，无条件免费商用，让海量中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用，推动低成本部署。GPT3、Llama与XVERSE等主流大模型发展遵循规模理论（ScalingLaw），在模型训练和推理的过程中，单次前向、反向计算时，所有参数都被激活，这被称为稠密激活（denselyactivated）。当模型
元象发布XVERSE-MoE-A4.2B大模型 ， 采用业界最前沿的混合专家模型架构 （Mixture of Experts），激活参数4.2B，效果即可媲美13B模型。该模型全开源，无条件免费商用，让海量中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用，推动低成本部署。
GPT3、Llama与XVERSE等主流大模型发展遵循规模理论（Scaling Law）， 在模型训练和推理的过程中，单次前向、反向计算时，所有参数都被激活，这被称为稠密激活 （densely activated）。 当 模型规模增大时，算力成本 会急剧升高。
随着越来越多的研究人员认为，稀疏激活（sparsely activated）的MoE模型，在增大模型规模时，可不显著增加训练和推理的计算成本，是一种更有效的方法。由于技术较新，目前国内大部分开源模型或学术研究尚未普及。
在元素自研中，使用相同语料训练2.7百万亿token，XVERSE-MoE-A4.2B实际激活参数量4.2B，性能“跳级”超越XVERSE-13B-2，仅计算量，并减少50%训练时间。与多个开源标杆Llama相比，该模型大幅超越Llama2-13B、接近Llama1-65B（下图）。
查看多项权威评测
在开源上，元素大模型"全家桶"持续迭代，将国产开源引领至国际一流水平。应用上，元素发挥AI+3D独特技术独特优势，推出大模型3D空间、AIGC工具等一站式解决方案，赋能文娱、旅游、金融等各行各业，在智能客服、创意体验、提效工具等多场景打造领先用户体验。
MoE技术自研与创新
教育部（MoE）是当前业界最前沿的模型框架，由于技术较新，国内开源模型或学术研究尚未普及。元对象自主研发了MoE的高效训练和推理框架，并在三个方向创新：
性能上，针对MoE架构中独特专家路由和权重计算逻辑，研发一套高效融合算子，显著提升了计算效率；针对MoE模型高显存使用和大通信量挑战，设计出计算、通信和显存卸载的重叠操作，有效提高整体处理吞吐量。
架构上，与传统MoE（如Mixtral 8x7B）将每个专家大小等同于标准FFN不同，元象采用更细粒度的专家设计，每个专家大小仅为标准FFN的四分之一，提高了模型灵活性与性能；还将专家分为共享专家（Shared Expert）和非共享专家（Non-shared Expert）两类。共享专家在计算过程中始终保持激活状态，而非共享专家则根据需要选择性激活。这种设计有利于将通用知识压缩至共享专家参数中，减少非共享专家参数间的知识冗余。
训练上，受Switch Transformers、ST-MoE和DeepSeekMoE等启发，元象引入负载均衡损失项，更好均衡专家间的负载；采用路由器z-loss项，确保训练高效和稳定。
架构选择则经过一系列对比实验得出（下图），在 实验3与实验2中，总参数量和激活参数量相同，但前者的细粒度专家设计带来了更高的性能表现。实验4在此基础上，进一步划分共享和非共享两类专家，使得效果显著提升。实验5探索了专家大小等于标准FFN时，引入共享专家的做法，效果不甚理想。
对比实验设计方案
综合试验结果（下图），元象最终采用实验4对应的架构设置。展望未来，新近开源的Google Gemma与X（前Twitter）Grok等项目采用了比标准FFN更大的设定，元象也将在后续继续深入探索相关方向探索研，保持技术引领性。
对比实验效果
免费下载大模型
- Hugging Face：https://huggingface.co/xverse/XVERSE-MoE-A4.2B
- ModelScope魔搭：https://modelscope.cn/models/xverse/XVERSE-MoE-A4.2B
- Github：https://github.com/xverse-ai/XVERSE-MoE-A4.2B
- 问询发送：opensource@xverse.cn
前瞻研判：未来十年，县域特色化经济的竞争，不再是资源的竞争，而是市场信任的竞争。谁能为消费者提供最确定的价值承诺，谁就能赢得市场。 2026年全国两会刚刚落幕，“十五五”规划进入开局之年。今年的政府工作报告中，“扎实推进乡村全面振兴”被摆在突出位置，明确提出要“壮大县域富民产业，做好土特产文章”。这
2026 ISLE展前瞻：南昌光电产业集群即将重磅亮相 明年三月，深圳国际会展中心将迎来一场行业盛事。2026年3月5日至7日，ISLE国际智慧显示及系统集成展将在这里拉开帷幕。而这一次，聚光灯将格外聚焦于一个区域——南昌光电产业集群。他们将以“光耀南昌，智链全球”为主题，携一支实力雄厚的“集团军”
天龙三号海上试车成功：看中国商业航天如何将“安全”铸为核心竞争力 9月15日，山东海阳东方航天港，巨大的轰鸣声撕裂长空，炽热的白色蒸汽升腾而起。北京天兵科技自主研制的天龙三号大型液体运载火箭，在这里的海上平台成功完成了一级动力系统试车。 这次试车可不简单——它是世界首次海上动力系统试车试验。结果让人
3月18日，通用技术集团机床产业生态合作伙伴大会在北京国家会议中心举行 春日的北京，一场关乎中国工业未来的盛会拉开帷幕。通用技术集团机床产业生态合作伙伴大会在国家会议中心举行，近500位产业链上下游的企业代表与行业专家齐聚一堂。会上，通用技术集团总工程师、机床公司董事长周舟发布了集团机床产业的未来发
华为鸿蒙电脑技术与生态沟通会隆重举行，首款鸿蒙电脑惊艳登场，这一标志性事件预示着华为在电脑领域迈出了具有深远影响的关键一步，为国产电脑产业带来了全新的革新与发展契机。鸿蒙电脑的推出并非一朝一夕之功，而是华为经过五年精心策划的结果。在此期间，华为汇聚了超过10000名顶尖工程师，与20多家专业研究所紧密合作，投入大量的精力与资源进行技术研发，最终积累了超过2700项核心专利，彰显了其强大的技术实力与创新能力。新推出的HarmonyOS5采用鸿蒙内核，从操作系统底层开始重构，旨在为用户提供全面升级的办公体验
AIxiv专栏是本站发布学术、技术内容的栏目。过去数年，本站AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com赵伟翔是哈尔滨工业大学社会计算与信息检索研究中心2021级直博生，导师为赵妍妍教授和秦兵教授。主要研究方向为对话系统、大语言模型对齐等。他曾以第一作者在ACL、AAAI、IJCAI、CO
用来运行Llama3405B优势明显。最近，Meta开源了最新的405B模型（Llama3.1405B），把开源模型的性能拉到了新高度。由于模型参数量很大，很多开发者都关心一个问题：怎么提高模型的推理速度？时隔才两天，LMSYSOrg团队就出手了，推出了全新的SGLangRuntimev0.2。这是一个用于LLM和VLM的通用服务引擎。在运行Llama3.1405B时，它的吞吐量和延迟表现都优于vLLM和TensorRT-LLM。在某些情况下（运行Llama系列模型），它的吞吐量甚至能达到TensorRT
机器之能报道编辑：杨文AI被人类带坏！这个世界，太癫了……最近，社交媒体上冒出来一堆搞怪视频，打着AI的旗号，真人cosAI，甚至抖音还专门出了个热门话题——人类模仿AI大赛。（视频来自抖音博主「关妮乱石」）视频链接：https://mp.weixin.qq.com/s/1DVc8skecSsO0a9QcklZlw套路都一个样儿：左边一张旧照片，右边打着「AI修复」的字幕，实际由真人演绎着脑干缺失的狗血「剧情」。-1-AI：第一次被人冒充，没想到比我还抽
获胜的AI数学奥林匹克模型出炉！几天前，随着榜单的公布，大家对全球首届AI数学奥林匹克竞赛（AIMO）进步奖的讨论量居高不下。这次比赛共有5个团队胜出，获得第一名的是Numina的团队，CMU_MATH位列第二，afterexams暂居第三，codeinter、Conor#2团队分别拿到第四、第五的成绩。图源：https://www.kaggle.com/c/ai-mathematical-olympiad-prize/leaderboard这一成绩，曾让陶哲轩感到惊讶。当时官方只公布了获奖名单，并未透漏
2024年WAIC・云帆奖面向全球征选AI青年技术人才，欢迎点击「此链接」报名或提名。人工智能的研究范式和产业格局正在经历深刻而积极的转变。过去一年，大模型引发了一股席卷全球的智能浪潮，这不仅推动了AI技术在更广泛领域的应用，也激发了人类对人工智能深层次潜力的追寻和探索。在这场技术革新的洪流中，通用人工智能（AGI）正逐渐从幻想走进现实。我们正处于一个新征程的起点，这个阶段将以人类对通用智能的不懈追求为特征。迎接即将到来的新时代，让我们将目光投向那些充满激情、勇于探索的青年创新者。他们凭借卓越的智慧和无畏
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
