资源受限如何提高模型效率？一文梳理NLP高效方法
训练越来越大的深度学习模型已经成为过去十年的一个新兴趋势。如下图所示，模型参数量的不断增加让神经网络的性能越来越好，也产生了一些新的研究方向，但模型的问题也越来越多。首先，这类模型往往有访问限制，没有开源，或者即使开源，仍然需要大量的计算资源来运行。第二，这些网络模型的参数是不能通用的，因此需要大量的资源来进行训练和推导。第三，模型不能无限扩大，因为参数的规模受到硬件的限制。为了解决这些问题，专注于提高效率的方法正在形成一种新的研究趋势。近日，来自希伯来大学、华盛顿大学等多所机构的十几位研究者联合撰写了一
训练越来越大的深度学习模型已经成为过去十年的一个新兴趋势。如下图所示，模型参数量的不断增加让神经网络的性能越来越好，也产生了一些新的研究方向，但模型的问题也越来越多。
首先，这类模型往往有访问限制，没有开源，或者即使开源，仍然需要大量的计算资源来运行。第二，这些网络模型的参数是不能通用的，因此需要大量的资源来进行训练和推导。第三，模型不能无限扩大，因为参数的规模受到硬件的限制。为了解决这些问题，专注于提高效率的方法正在形成一种新的研究趋势。
近日，来自希伯来大学、华盛顿大学等多所机构的十几位研究者联合撰写了一篇综述，归纳总结了自然语言处理（NLP）领域的高效方法。
论文地址：https://arxiv.org/pdf/2209.00099.pdf
效率通常是指输入系统的资源与系统产出之间的关系，一个高效的系统能在不浪费资源的情况下产生产出。在 NLP 领域，我们认为效率是一个模型的成本与它产生的结果之间的关系。
方程（1）描述了一个人工智能模型产生某种结果（R）的训练成本（Cost）与三个（不完备的）因素成正比：
（1）在单个样本上执行模型的成本（E）；
（2）训练数据集的大小（D）；
（3）模型选择或参数调整所需的训练运行次数（H）。
然后，可以从多个维度衡量成本 Cost(·) ，如计算、时间或环境成本中的每一个都可以通过多种方式进一步量化。例如，计算成本可以包括浮点运算（FLOPs）的总数或模型参数的数量。由于使用单一的成本指标可能会产生误导，该研究收集和整理了关于高效 NLP 的多个方面的工作，并讨论了哪些方面对哪些用例有益。
该研究旨在对提高 NLP 效率的广泛方法做一个基本介绍，因此该研究按照典型的 NLP 模型 pipeline（下图 2）来组织这次调查，介绍了使各个阶段更高效的现有方法。
这项工作给 NLP 研究人员提供了一个实用的效率指南，主要面向两类读者：
（1）来自 NLP 各个领域的研究人员，帮助他们在资源有限的环境下工作：根据资源的瓶颈，读者可以直接跳到 NLP pipeline 所涵盖的某个方面。例如，如果主要的限制是推理时间，论文中第 6 章描述了相关的提高效率方法。
（2）对改善 NLP 方法效率现状感兴趣的研究人员。该论文可以作为一个切入点，为新的研究方向寻找机会。
下图 3 概述了该研究归纳整理的高效 NLP 方法。
此外，虽然硬件的选择对模型的效率有很大的影响，但大多数 NLP 研究者并不能直接控制关于硬件的决定，而且大多数硬件优化对于 NLP pipeline 中的所有阶段都有用。因此，该研究将工作重点放在了算法上，但在第 7 章中提供了关于硬件优化的简单介绍。最后，该论文进一步讨论了如何量化效率，在评估过程中应该考虑哪些因素，以及如何决定最适合的模型。
感兴趣的读者可以阅读论文原文，了解更多研究细节。
掌握Photoshop快捷键是提升设计效率的关键。本文从界面布局出发，详细介绍工具切换、图层操作、窗口管理及颜色调整的快捷方式，适合初学者建立清晰的操作逻辑。
掌握Photoshop V、B、L、P等核心工具快捷键，学习Shift同组切换与自定义设置方法，通过三步操作提升作图速度。
想知道Photoshop快捷键设置在哪里？本文详解PS快捷键修改方法，包括进入路径、自定义操作、冲突处理及配置保存，助你快速掌握高效工作流。
5月30日，华为推出了全新的AI模型——盘古UltraMoE，该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型，它在整个训练过程中完全基于华为的昇腾AI平台完成，标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如，Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入，显著改善了超大规模模型训练期间出现的梯度异常及
AI视频生成正迎来属于“通义”的高光时刻！就在昨晚，阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频，就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频，效果惊艳。实际效果展示如下：△来自@AIMIRAI46487更令人振奋的是，这款新模型一经发布便全面开源，现在所有人都可以免费在通义万相官网体验使用。据官方介绍，Wan2.2-S2V的核心优势包括：支持最长分钟级的单次视频生成，画面稳定且具有一致性；具备影院级别的音
近日，有汽车领域博主爆料，特斯拉的FSD（完全自动驾驶）辅助系统将迎来一次重要升级，或将实现更真实的环境场景还原。在最新曝光的软件代码中，发现了大量新增的渲染模型，涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人，以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息，日本方面已为特斯拉FSD系统的落地扫
大语言模型面对加密数据，即便最新的Qwen3也会感到压力！尽管当下各类推理模型在多种基准测试中表现优异，但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域，模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链，还需要其能够精准辨识复杂加密模式中的潜在规律；成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评，使用大量真实隐私场景数据和多种密码算法，严苛挑战当前最先进的大模型。CipherBank的测评结果显示，目前的大语言模型
强化学习（RL）结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而，这一方法面临两大挑战：搜索引擎返回的文档质量不稳定，导致训练过程中的噪音和不稳定性；RL训练需要频繁部署，产生大量API开销，限制了可扩展性。针对这些问题，阿里通义实验室推出了开源解决方案ZeroSearch，这是一个无需与真实搜索引擎交互的强化学习框架。实验表明，ZeroSearch只需使用3B参数的LLM作为检索模块，就能有效提升搜索能力，并大幅节省API成本。ZeroSearch让LLM实现自给自足
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
