昇腾助力中科大提升MoE模型推理速度超30%
随着人工智能技术迅猛进步，大模型的参数规模持续攀升。MoE（MixtureofExperts）稀疏大模型因其能够在扩展模型容量的同时保持较低的训练计算开销，成为当前研究的焦点。然而，推理阶段的性能瓶颈仍严重制约其广泛应用。在此背景下，中国科学技术大学人工智能与数据科学学院执行院长张燕咏带领团队，依托中国科学技术大学鲲鹏昇腾科教创新卓越中心提供的强大算力支持，成功构建了一套基于专家选择分布预测的专家负载均衡与all2all通信优化框架。该研究聚焦于两大核心挑战——专家负载不均与高昂的计算通信成本，并通过
随着人工智能技术迅猛进步，大模型的参数规模持续攀升。MoE（Mixture of Experts）稀疏大模型因其能够在扩展模型容量的同时保持较低的训练计算开销，成为当前研究的焦点。然而，推理阶段的性能瓶颈仍严重制约其广泛应用。在此背景下，中国科学技术大学人工智能与数据科学学院执行院长张燕咏带领团队，依托中国科学技术大学鲲鹏昇腾科教创新卓越中心提供的强大算力支持，成功构建了一套基于专家选择分布预测的专家负载均衡与all2all通信优化框架。
该研究聚焦于两大核心挑战——专家负载不均与高昂的计算通信成本，并通过“三步走”策略有效提升了推理效率。为实现更高效的资源分配，团队首先深入挖掘专家选择的内在规律，分析相似token在MoE层中选择专家的行为特征，并对其进行聚类归纳，成功预测出token对特定专家的路径偏好。
第二步致力于缓解推理过程中的专家负载失衡问题。基于对token专家选择偏好的预测结果，团队精确评估各专家的访问频率与重要性，采用复制高访问频率专家、替换低重要性专家的方式，动态调整专家分布，从而实现负载均衡。其中，昇腾推理引擎MindIE所提供的性能分析工具发挥了关键作用，其可视化能力支持实时监控专家负载状态、统计访问热度，为优化决策提供了可靠的数据支撑。
第三步聚焦于降低分布式环境下的通信延迟。团队根据各计算节点上数据对专家选择的预测结果，提前将专家部署至最常被访问的节点，并将需频繁交互的专家集中部署在同一计算单元内，使数据与所需专家在物理位置上更加贴近。结合昇腾384超节点所采用的高速总线互联技术，显著减少了跨节点与跨单元之间的通信开销。
在一系列关键技术突破的推动下，该项目取得了显著成效。在多种尺寸与结构的MoE模型测试中，新框架相较现有主流方案，在推理时间、all2all通信时间、MoE层处理时间以及负载不均程度等指标上均实现超过30%的性能提升；在多卡复杂场景下，前三项指标提升达30%，推理时间优化20%。
这一研究成果为开发者利用昇腾技术优化MoE稀疏大模型的推理性能提供了宝贵范例，有助于加速该类模型在实际场景中的落地应用。未来，中国科学技术大学鲲鹏昇腾科教创新卓越中心将继续深化产学研融合，依托昇腾软硬件生态，在前沿AI模型优化方向持续探索，为我国自主可控的人工智能发展战略和数字经济建设注入新动能。
可关闭Edge新标签页资讯干扰：五个实用技巧 不知道你是不是也有过这样的体验：本想快速开个新标签页查点东西，结果目光立刻被铺天盖地的新闻、股票和推广链接给拽走了。这种资讯干扰，确实容易打断工作流，影响专注度。好在，我们有办法让Edge的新标签页回归简洁。下面这五个方法，从最简单的设置到彻底的根治，一
9月27日，2025年佛山市企业家大会暨人才发展大会隆重举办。会上正式发布了2025年佛山骨干企业调研成果及佛山企业百强榜单。小熊电器凭借卓越的综合实力，一举斩获三大主榜荣誉——成功入选佛山企业100强、佛山制造业企业100强以及佛山民营企业100强。同时，在多个细分领域中表现亮眼，荣登佛山企业国际化TOP30与佛山企业科技创新TOP30子榜单。此次多项殊荣的获得，彰显了小熊电器在制造实力、经营管理、研发创新等关键维度上的领先地位，充分体现了其以“品质升级”为核心驱动力的高质量发展模式。稳居佛山百强阵营，
2025年9月25日，荣耀官方微博宣布荣耀手表5Pro正式开启全渠道预约。与此同时，荣耀Magic8系列与荣耀MagicPad3Pro两款首发搭载第五代骁龙8至尊版芯片的“一门双至尊”性能旗舰新品也同步启动预约。此次发布的荣耀手表5Pro不仅带来了创新的无感血压监测功能，还在健康监测、AI运动指导等方面实现全面升级，并推出全新5款配色，外观设计与综合性能双双提升。官方在盲约阶段即释放多项预购好礼，诚意满满。聚焦健康管理与运动辅助，荣耀手表5Pro在延续前代防猝死筛查研究、ECG心电图检测、心脑血管风险评估
近日，深圳市2025年度全国会计专业技术中级资格考试（简称“中级会计考试”）顺利落下帷幕。作为国家中小企业公共服务示范平台，小熊U租为深圳8个考点共245个考场提供了涵盖考场搭建、设备租赁、网络部署及技术驻场等环节的一站式综合考务服务，全面保障了本次考试的如期举行。自2021年起，这已是小熊U租连续第五年为该项国家级考试提供IT设备整体解决方案。据了解，此次考试中，小熊U租一次性投入上万台笔记本电脑，并在各考区配备专项驻场技术支持团队，累计保障数万名考生顺利完成考试。面对时间紧、任务重、技术要求高的挑战，
走过17个年头的双·11，在2025年展现出全新的消费图景。AI智能科技产品成为本轮购物季中增长最为迅猛的品类之一，消费者对AI相关商品的接受度显著提升，推动智能设备从“尝鲜潮品”加速迈向“生活必需”，逐步成为撬动整体消费市场的新引擎。数据显示，AI音箱、智能家居套装等产品的销量同比增幅远超传统家电，印证了这一结构性转变。这一“智能普及化”的浪潮，在家电领域表现尤为突出——品牌新品的市场热度，直接映射出用户对智能化功能的真实认可。根据天猫双11新品排行榜，海尔智家旗下冰箱、空调、洗衣机、净水器等多个品类新
近日，有网友在内蒙古大草原上意外捕捉到余承东亲自试驾鸿蒙智行全新车型——享界S9T的实车画面。未加伪装的真车首次亮相镜头，让这款被称作“高颜值、全场景、超智慧”的新车提前走入大众视野。如果说官方图片展现的是理想中的精致美感，那么这段路测视频则真实呈现了享界S9T在自然环境中的从容与优雅。从车门自动感应开启，到穿行于辽阔草原之间，它所承载的不仅是产品线的延伸，更是一次对智能出行理念的深度重塑。科技豪华全面升级，从“车门”到“视野”都在革新视频中最吸睛的一幕莫过于：余承东走近车辆时，享界S9T的电动门自动缓缓
智慧家能被完整“搬”进手机吗？答案是肯定的。近日，海尔智家APP正式推出“3D智慧家庭视图”功能，将传统的平面操控界面升级为立体可视化的数字家庭空间。这一创新功能已成功通过中国家用电器研究院的权威评测，荣获“数字孪生3D智慧家庭”认证，成为行业内首个获得官方认可的3D全景视图技术，为智能家居体验树立了新标杆。技术突破：三大核心能力引领行业变革当前，尽管智能设备日益普及，但操作复杂、交互繁琐的问题愈发突出。随着家中接入的设备增多，用户往往需要在多个页面之间来回切换，操作路径冗长，反而降低了使用效率。“智能却
12月23日，中兴通讯智慧家庭全国首家全品类旗舰店在福建漳州盛大启幕。该门店最大亮点在于深度融合家用分销、SMB（中小型商用）定制化方案与全光融合网络三大业务板块，可面向本地居民及中小企业提供覆盖全场景的一站式智慧服务与系统性解决方案。首店落地，标志着中兴智慧家庭生态建设正式迈入“聚焦线下真实场景、深化本地化服务”的新阶段。店内全面陈列中兴智慧家庭全系产品矩阵：既有面向家庭用户的Wi-Fi6、Wi-Fi7路由器、智能安防摄像头、智能照明设备等泛连接终端；也涵盖适配中小企业的AC+AP架构、SMB专用组
专注于材料革新与人文温度的科技生活品牌PITAKA，近日迎来创立十周年重要节点，并携手英国当代艺术家GordonHunt，在深圳共同呈现十周年艺术联展——「觉知伏流GLINTSOFAWARENESS」。始于一根芳纶纤维纱线，PITAKA以经纬为笔、以织造为语，书写了一段关于理性与感性交织的品牌叙事。从重新定义手机保护壳的边界，到构建面向未来的智能交互生态，十年间，PITAKA持续深耕材料科学、精研制造工艺、锤炼设计哲学，将冰冷的科技产品升华为有呼吸、有情绪、有记忆的生活伙伴。2015年，PITAK
Postman是一套面向API全生命周期的开发与测试平台，可在Mac上发送和调试多种协议请求，管理集合、环境及认证信息，并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用，提供个人免费方案。
Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境，集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。
Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境，基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。
PixPix 是面向品牌、卖家和内容团队的在线 AI 图片视频创作平台，提供图视频 Agent、无限画布、图片生成、视频生成、自然语言编辑及商品套图、产品精修和带货视频等电商工具。
Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求，并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等
Docker Desktop 为 Windows 开发者提供集成式容器环境，内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件，可在本机完成镜像构建、容器运行、日志查看和资源管理。