当前位置:

首页 > 业界资讯 > 有效提升大型语言模型效果的关键:增加Agent数量

有效提升大型语言模型效果的关键:增加Agent数量

腾讯的研究团队进行了一项关于agent的可拓展性的研究。他们发现,通过简单的采样投票,大型语言模型(LLM)的性能随着实例化agent数量的增加而增强。这项研究首次在各种场景中验证了这一现象的普遍性,并与其他复杂方法进行了对比,探讨了这一现象背后的原因,并提出了进一步发挥scaling效应的方法。论文标题:MoreAgentsIsAllYouNeed论文地址:https://arxiv.org/abs/2402.05120代码地址:https://github.com/MoreAgentsIsAllYou

腾讯的研究团队进行了一项关于agent的可拓展性的研究。他们发现,通过简单的采样投票,大型语言模型(LLM)的性能随着实例化agent数量的增加而增强。这项研究首次在各种场景中验证了这一现象的普遍性,并与其他复杂方法进行了对比,探讨了这一现象背后的原因,并提出了进一步发挥scaling效应的方法。

数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好

  • 论文标题:More Agents Is All You Need

  • 论文地址:https://arxiv.org/abs/2402.05120

  • 代码地址:https://github.com/MoreAgentsIsAllYouNeed/More-Agents-Is-All-You-Need

本文中,来自腾讯的研究者发现:只需通过一种简单的采样投票法,大语言模型的性能就会随着实例化 agent 的数量的增大而增强,呈现scaling property(可拓展性),无需复杂的多 LLM agents 协作框架以及prompt工程方法的加持。此外,该方法与现有的复杂方法正交,结合之后,可进一步增强 LLM,其增强程度与任务难度相关。该论文做了第一个关于 raw agent(指不依赖复杂的prompt工程和协作框架的LLM agent)的 scaling property 的研究,其对各种 LLM 基准进行了全面的实验,以验证此发现的普遍性,并研究了可以促进其发生的策略。目前代码已开源。
数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好
                                    多个小模型超过大模型

论文详细探讨了多种集成LLM的相关研究,其中包括LLM的自集成、异构LLM的集成,以及多个LLM代理协作框架的研究。通过与提出的方法进行对比,可以看出论文进行了更为全面的研究和分析。

数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好
为了研究大型语言模型的性能如何随着实例化 agents 数量的增加而提升。论文使用了一种简单的采样和投票方法(作者用了 simple (st) 的说法,可见他们认为这个方法也许是最简单的方法之一)。值得注意的是,此方法可与现有的复杂方法正交结合。它可以被分为两个阶段:

  • 将任务 query 输入到单个 LLM 或多个 LLM Agents 协作框架中,生成多个输出;
  • 通过多数投票确定最终结果
数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好
论文从 Llama2 和 GPT 系列选择不同规模的语言模型进行评估,任务数据集涵盖推理和生成等多个领域。实验结果表明,在所有任务和不同种类、规模的 LLM 上,发现 LLM 的性能随着实例化 agent 的数量而增加。

数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好

例如,在 GSM8K 任务上提升了 12% 至 24%,在 MATH 上提升了 6% 至 10%。有趣的是,多个小 LLM 集成可以达到甚至超越较大 LLM 的性能。例如,多个 Llama2-13B 的集成在 GSM8K 上达到了 59% 准确率,超过了单一 Llama2-70B 的 54% 的准确率。

数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好

进一步地,作者还探索了与其他方法的兼容性。尽管这些方法实现各不相同,但是在与之结合使用时,性能可以进一步提升,并同样符合实例化 agent 越多,性能增益越强的现象。实验结果显示增益范围从 1% 到 27% 不等,说明这个简单的方法通过和其他方法正交使用可以进一步增强 LLM 的性能。
数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好
数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好

                                   基于 LLama13B

数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好

                                 基于 LLama70B

数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好

                              基于 GPT-3.5-Turbo

此外,论文还分析了性能提升与问题难度之间的关系。

  • 固有难度:随着任务固有难度的增加,性能提升(即相对性能增益)也会增加,但当难度达到一定程度后,增益会逐渐减少。这表明在任务过于复杂时,模型的推理能力可能无法跟上,导致性能提升的边际效应递减。
  • 步骤数量:随着解决任务所需的步骤数量增加,性能提升也会增加。这表明在多步骤任务中,通过增加 agent 数量可以帮助模型更好地处理每一步,从而整体提高任务的解决性能。
  • 先验概率:正确答案的先验概率越高,性能提升越大。这意味着在正确答案更有可能的情况下,增加 agent 数量更有可能带来显著的性能提升。
数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好
节点:步骤,虚线:可能的替代步骤。节点的深度:步骤的数量,颜色的强度:固有难度的水平。图示帮助读者理解任务的复杂性是如何通过这些维度来衡量的。

基于此,论文提出了两种优化策略来进一步提升方法的有效性:

  • 逐步采样和投票(Step-wise Sampling-and-Voting):这种方法将任务分解为多个步骤,并在每个步骤中应用采样和投票,以减少累积错误并提高整体性能。
  • 分层采样和投票(Hierarchical Sampling-and-Voting):这种方法将低概率任务分解为多个高概率子任务,并分层解决,同时可以使用不同模型来处理不同概率的子任务以降低成本。
    数量即力量!腾讯揭秘:Agent数量越多,大语言模型效果越好
最后,提出了未来的工作方向,包括优化采样阶段以降低成本,并继续开发相关机制来减轻 LLM 幻觉(hallucinations)的带来的潜在负面影响,确保这些强大模型的部署既负责任又有益。
本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 腾讯
相关文章 更多
传腾讯拟退出对多家日本游戏工作室投资,腾讯:保持对日本游戏市场的长期关注
传腾讯拟退出对多家日本游戏工作室投资,腾讯:保持对日本游戏市场的长期关注

据媒体报道,腾讯被曝计划退出对多家日本游戏工作室的股权投资,包括Marvelous等多家公司,或将以折价方式回售。腾讯回应称将保持对日本游戏市场的长期关注和投入,游戏是核心业务之一,不会改变。

腾讯要做独立支付APP?最新回应来了
腾讯要做独立支付APP?最新回应来了

腾讯TenPayGo在苹果商店上架,面向境外来华人员,支持邮箱注册并绑定Visa等国际信用卡或ApplePay,无需内地手机号及银行卡,简化移动支付门槛,目前处于内测阶段。

消息称腾讯QClaw负责人张舒昱离职
消息称腾讯QClaw负责人张舒昱离职

腾讯QClaw负责人张舒昱(1999年,纯商科背景)离职。其率5人团队开发打通微信QQ接口的龙虾产品QClaw,但体验不佳,出海版访问量环比暴跌99.19%,且bug多、内部竞争激烈。

腾讯回应《王者荣耀》充值显示《洛克王国》界面bug属临时问题不影响到账
腾讯回应《王者荣耀》充值显示《洛克王国》界面bug属临时问题不影响到账

腾讯回应《王者荣耀》充值界面误显示《洛克王国》为临时bug,实际充值资金和点券正常到账,不影响用户。技术团队正优化系统稳定性,修复时间未定。

端云一体记忆共生李未可携手腾讯云打造随身AI穿戴全域解决
端云一体记忆共生李未可携手腾讯云打造随身AI穿戴全域解决

李未可携手腾讯云推出端云一体AI穿戴解决方案,融合WakeeMemory记忆OS与WAKE-AI3.0架构,依托腾讯云算力底座和WorkBuddy全域智能体,打通终端感知、云端存储与AI执行闭环,构建覆盖商务、文旅、企业服务的随身记忆智能体体系,解决算力瓶颈与数据互通难题。

腾讯正式发布混元Hy3
腾讯正式发布混元Hy3

七月六日,腾讯混元Hy3正式发布,智能水平显著提升,性能卓越,比肩参数大二至五倍的旗舰模型。定价下调:输入一元/百万tokens,输出四元,缓存低至零点二五元。采用Apache2.0开源协议,已接入多个业务并上线国内外API平台。

DEMO | 这位前腾讯 T-12 ,做了个给 Agent 用的“POS机”
DEMO | 这位前腾讯 T-12 ,做了个给 Agent 用的“POS机”

码上飞打造面向人工智能智能体的商业到智能体基础设施,帮助小商家将生意从互联网搬运至人工智能世界。平台已拥有一百万注册用户、二百万个生成应用,链接超十亿人次,年经常性收入突破一千万,相当于人工智能时代的收款机。

腾讯会议怎么导出参会人员名单
腾讯会议怎么导出参会人员名单

腾讯会议创建者可通过五种方式导出或查询参会名单:一、会中实时导出;二、会后从历史会议详情页导出;三、通过官网个人中心导出;四、移动端快速导出;五、免导出直接核验。 作为腾讯会议的组织者,如果需要掌握谁参加了会议,却发现名单无处可寻,别急。这通常不是功能缺失,而是路径或权限问题。下面这份操作指南,能帮

腾讯文档怎么创建日历
腾讯文档怎么创建日历

想要快速生成一份结构清晰、还能协同编辑的日历?这几个路径总有一条适合你:一,直接在模板中心搜索“日历”并点击启用;二,从“新建”下拉菜单里选模板新建;三,用空白表格手动填充日期打造专属日历;四,在手机App的模板页里搜索使用。 想在腾讯文档里快速弄出一份日历,用来规划日程或者团队协作,这事儿其实挺简

腾讯会议怎么给主持人点赞
腾讯会议怎么给主持人点赞

腾讯会议提供了四种途径来发送点赞表情,为会议互动增添活力:一是直接点击右下角的点赞按钮,会触发随机动画;二是通过【更多】菜单进入【举手】选项,启用表情回应功能;三是需要主持人预先在会议设置中开启“表情回应”权限;四是点击左下角的【回应】按钮,手动挑选特定表情进行发送。 想在腾讯会议里给主持人点个赞,

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。