当前位置:

首页 > 硬件相关 > 通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API

通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API

强化学习(RL)结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而,这一方法面临两大挑战:搜索引擎返回的文档质量不稳定,导致训练过程中的噪音和不稳定性;RL训练需要频繁部署,产生大量API开销,限制了可扩展性。针对这些问题,阿里通义实验室推出了开源解决方案ZeroSearch,这是一个无需与真实搜索引擎交互的强化学习框架。实验表明,ZeroSearch只需使用3B参数的LLM作为检索模块,就能有效提升搜索能力,并大幅节省API成本。ZeroSearch让LLM实现自给自足

本文目录

    强化学习(RL)结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而,这一方法面临两大挑战:搜索引擎返回的文档质量不稳定,导致训练过程中的噪音和不稳定性;RL 训练需要频繁部署,产生大量 API 开销,限制了可扩展性。

    针对这些问题,阿里通义实验室推出了开源解决方案 ZeroSearch,这是一个无需与真实搜索引擎交互的强化学习框架。实验表明,ZeroSearch 只需使用 3B 参数的 LLM 作为检索模块,就能有效提升搜索能力,并大幅节省 API 成本。

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    ZeroSearch 让 LLM 实现自给自足的搜索进化

    研究团队通过模拟搜索环境和渐进式抗噪训练,使 LLM 不再依赖昂贵的搜索引擎 API。

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    轻量微调:将 LLM 转变为“搜索引擎模拟器”

    使用少量标注数据对 LLM 进行微调,使其能够根据指令生成两种类型的文档——有用结果和噪声干扰。

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    通过收集与真实搜索引擎交互的数据,ZeroSearch 对 LLM 进行轻量级监督微调。在此过程中,模型学会生成与真实搜索引擎风格相似的文档,并能根据提示词生成相关或噪声文档。这种能力使模型在训练过程中能够动态调整文档质量,从而更好地模拟真实检索场景。

    课程化抗噪训练:像打游戏升级一样训练模型

    训练初期返回高质量文档,后期逐渐混入噪声(噪声比例按指数曲线上升)。ZeroSearch 引入了课程式学习机制,逐步降低生成文档的质量,使模型从简单的检索场景逐步过渡到更具挑战性的任务。这种策略不仅提升了模型的推理能力,还显著增强了训练的稳定性和效果。

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    随着训练的进行,模型逐渐适应更复杂的检索任务,最终能够在高质量和低质量文档中找到平衡。

    强化学习闭环:自产自销的搜索生态

    ZeroSearch 通过模拟搜索引擎,完全消除了与真实搜索引擎交互的 API 费用,使得大规模强化学习训练变得更加经济可行。此外,ZeroSearch 兼容多种强化学习算法,包括 PPO(近端策略优化)和 GRPO(群体相对策略优化)。这些算法为模型提供了不同的优化策略,使得 ZeroSearch 能够在不同的模型和任务中表现出色。实验表明,GRPO 在训练稳定性方面表现更好,而 PPO 则在某些任务中提供了更高的灵活性。

    实验结果及结论

    ZeroSearch 的零 API 成本优势不仅体现在经济上,还体现在训练的灵活性和可扩展性上。

    ZeroSearch vs. 现有方法

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    在图中,我们可以清晰地看到 ZeroSearch 在多个问答数据集上的表现。无论是单跳(Single-Hop)还是多跳(Multi-Hop)问答任务,ZeroSearch 都显著优于现有的基线方法,包括直接提示、RAG 和 Search-R1 等。这表明 ZeroSearch 不仅在简单任务中表现出色,还能在复杂的多跳问答任务中发挥强大的检索能力。

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    上图展示了 ZeroSearch 和 Search-R1(使用真实搜索引擎)在 LLaMA-3.2-3B 模型上的奖励曲线对比。ZeroSearch 的学习曲线更加平滑且最终性能优于 Search-R1,表明其在训练过程中的稳定性和优越性。

    不同模型规模的性能

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    可以看到使用7B 参数的检索模块就能达到与谷歌搜索相当的性能,而14B 参数的检索模块甚至能够超越谷歌搜索。这表明 ZeroSearch 不仅适用于小型模型,还能在大型模型中发挥更大的潜力,为 LLM 的检索能力提升提供了广阔的空间。

    强化学习算法的兼容性

     通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索 API

    比较了在 Qwen-2.5-3B 和 LLaMA-3.2-3B 模型上,使用 PPO 和 GRPO 算法的 ZeroSearch 性能,可以看到 ZeroSearch 与 PPO 和 GRPO 两种强化学习算法的兼容性。实验结果表明,GRPO 在训练稳定性方面表现更好,而 PPO 则在某些任务中提供了更高的灵活性。这表明 ZeroSearch 能够适应不同的强化学习算法,为研究人员提供了更多的选择。

    通过模拟搜索引擎,ZeroSearch 完全消除了 API 成本,同时通过课程式学习策略逐步提升模型的推理能力。这一创新不仅解决了现有方法中的成本和稳定性问题,还为未来的智能化检索提供了新的思路。

    论文链接:

    https://arxiv.org/abs/2505.04588

    参考链接:

    https://x.com/\_akhaliq/status/1920397374007984516

    — 完 —

    量子位 AI 主题策划正在征集中!欢迎参与专题365 行 AI 落地方案,一千零一个 AI 应用,或与我们分享你在寻找的 AI 产品,或发现的AI 新动向。

    也欢迎你加入量子位每日 AI 交流群,一起来畅聊 AI 吧~

    一键关注 点亮星标

    科技前沿进展每日见

    一键三连「点赞」「转发」「小心心」

    欢迎在评论区留下你的想法!

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 模型 搜索引擎 API
    相关文章 更多
    悟空浏览器看免费电视剧方法分享
    悟空浏览器看免费电视剧方法分享

    用悟空浏览器看免费电视剧的关键是通过搜索特定关键词进入第三方影视聚合页面,如搜索“晴天好剧院”“时光宝藏”或“西瓜剧场”等名称,点击结果中的链接即可访问分类清晰的影视资源页面,支持在线播放电视剧、电影和短剧;由于资源由第三方提供,画质和播放稳定性不一,部分页面可能仍有推广内容,建议仅用于在线观看,避免输入个人信息或下载不明文件,若某个关键词失效可尝试其他用户分享的替代词,整体操作简单但依赖有效入口的获取。

    悟空浏览器看电视剧方法详解
    悟空浏览器看电视剧方法详解

    悟空浏览器确实可以免费看电视剧,无需额外开通会员,其内置聚合视频功能整合了多个平台资源,涵盖热播剧、经典剧、电影、综艺等,用户只需打开App点击“视频”或“影视”入口,或直接搜索剧名如“庆余年第二部”,即可选择播放源观看,操作简单适合各类用户,更新速度紧跟官方节奏,但播放时可能有广告,部分高清资源需看广告解锁,且视频源不稳定时需切换链接,此外还提供“边看边赚”任务领金币提现功能,整体体验便捷但略逊于主流平台。

    悟空浏览器下载电视剧设置与格式选择
    悟空浏览器下载电视剧设置与格式选择

    悟空浏览器能否下载电视剧视频取决于视频源网站的设置,其下载功能主要针对单个视频文件而非整部剧集,当访问支持下载的页面时,浏览器会在播放区域显示下载图标或提示,点击后可选择清晰度如标清、高清、超清等进行下载,下载格式通常为源站提供的原始格式如MP4、FLV或WebM,不支持格式转码,若下载按钮不出现或下载失败,主要原因包括视频平台采用DRM版权保护、使用HLS或DASH流媒体协议导致无法合并片段、网站隐藏真实地址或设置反爬策略,以及浏览器本身作为通用工具在解析复杂流媒体时存在局限性,因此并非浏览器故障而是受

    yandex引擎入口官网
    yandex引擎入口官网

    Yandex搜索引擎官方入口为https://yondex.net,具备界面简洁响应迅速、本地化服务深度整合、多媒体内容直达、隐私保护机制透明、多终端协同体验一致五大特点。 直接访问Yandex搜索引擎的官网入口,是不少用户实际使用时的第一个疑问。下面,我们就来详细梳理一下它在2026年的核心面貌和

    yandex中文版官网入口
    yandex中文版官网入口

    Yandex中文版官网入口为https://yondex.net/,支持右上角切换简体中文、中文搜索、地图地名标注、图像反向搜索、知识图谱卡片、新闻过滤、学术搜索、多端同步、网页翻译、语音识别及视频/图书/音乐/生活服务等本地化功能。俄罗斯搜索引擎入口☜☜☜☜☜点击保存yandex无需登录网址☜☜☜

    俄罗斯搜索引擎Yandex官网首页访问指南
    俄罗斯搜索引擎Yandex官网首页访问指南

    主标题用,副标题用,段落用。对于原文中的图片描述,保证语句通顺,不做修改。 绝对禁止项(红线规则) ❌ 严禁改动任何核心信息、数据、论点和原文结构。 ❌ 严禁概括或简化原文中任何复杂段落的核心内容。 ❌ 严禁删除或修改任何关于图片的信息。 ❌ 严禁为了追求客观化而把文章改得干巴巴、失去温度和节奏感。

    manwa2漫画官网直达
    manwa2漫画官网直达

    对于寻找一处理想漫画阅读基地的读者而言,漫蛙漫画网页版无疑是一个值得留意的选择。它凭借海量资源、高清画质和诸多便捷功能,构建了一个沉浸式的数字阅读空间,让每次翻页都轻松惬意。你可以直接复制下方链接到浏览器打开,或点击它快速跳转,开启你的漫画探索之旅。 漫蛙漫画网页版的官方在线入口地址是:https:

    QQ浏览器怎么改搜索引擎
    QQ浏览器怎么改搜索引擎

    一、通过“我的”页面进入通用设置 这个路径从“我的”页面出发,层级非常清晰,几乎在所有主流版本的QQ浏览器移动端上都适用,能稳稳地找到那个关键设置项。 第一步,打开手机QQ浏览器,直接点击底部导航栏的“我的”标签。 第二步,在“我的”页面右上角,找到那个小齿轮图标,它就是“设置”入口,点进去。 第三

    火狐浏览器有哪些设置功能
    火狐浏览器有哪些设置功能

    火狐浏览器五大核心设置功能:解锁高效、安全与个性化体验 火狐浏览器功能强大,但如果不仔细挖掘,很多能大幅提升效率和安全性的设置可能就“藏着掖着”了。这就好比拥有一台高性能设备,却只用了基础模式。那么,如何把它调整到最顺手、最安全的状态?接下来,我们就聚焦于当前版本(截至2025年末)最关键的五大设置

    冷门书屋的资源搜索支持通配符吗
    冷门书屋的资源搜索支持通配符吗

    冷门书屋通配符搜索全攻略:书名作者模糊匹配的核心技巧 在冷门书屋找书,最头疼的情况恐怕就是这个:明明记得书名或作者的大概样子,输入完整关键词却怎么也搜不到。这往往不是因为资源不存在,而是你的搜索方式,没能触发平台的模糊匹配机制。 其实,平台内置的搜索引擎相当强大,它原生支持通配符搜索。这意味着,你可

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。