当前位置:

首页 > 业界资讯 > 顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

在广泛数据集上基于自监督学习的预训练基础模型,已经展现出将知识迁移到不同下游任务的优秀能力。因此,这些模型也被应用到长期推理、控制、搜索和规划等更复杂的问题,或者被部署在对话、自动驾驶、医疗保健和机器人等应用中。未来它们也会提供接口给外部实体和智能体,例如在对话应用中,语言模型与人进行多轮交流;在机器人领域,感知控制模型在真实环境中执行动作。这些场景为基础模型提出了新的挑战,包括:1)如何从外部实体(如人对对话质量的评价)的反馈中学习,2)如何适应大规模语言或视觉数据集中不常见的模态(如机器人动作),3)

在广泛数据集上基于自监督学习的预训练基础模型,已经展现出将知识迁移到不同下游任务的优秀能力。因此,这些模型也被应用到长期推理、控制、搜索和规划等更复杂的问题,或者被部署在对话、自动驾驶、医疗保健和机器人等应用中。未来它们也会提供接口给外部实体和智能体,例如在对话应用中,语言模型与人进行多轮交流;在机器人领域,感知控制模型在真实环境中执行动作。

这些场景为基础模型提出了新的挑战,包括:1) 如何从外部实体(如人对对话质量的评价)的反馈中学习,2) 如何适应大规模语言或视觉数据集中不常见的模态(如机器人动作),3) 如何在未来进行长期的推理和规划。 

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

这些问题一直是传统意义上顺序决策的核心,涵盖了强化学习、模仿学习、规划、搜索和最优控制等领域。与基础模型使用数十亿图像和文本 token 的广泛数据集进行预训练的范式相反,以往关于顺序决策制定的工作主要集中在任务特定或具有有限先验知识的白板设置上。

尽管缺少或没有先验知识让顺序决策看起来很难,但是对顺序决策的研究已经在多个任务上超越了人类表现,如玩棋盘游戏、雅达利(Atari)电子游戏以及操作机器人完成导航和操作等。

然而,由于这些方法学习从零开始解决任务而没有来自视觉、语言或其它数据集的广泛知识,因此通常在泛化和样本效率方面表现不佳,例如需要 7 块 GPU 运行一天才能解决单个雅达利游戏。直觉上,类似于基础模型所用的广泛数据集也应该对顺序决策制定模型有用。举例而言,互联网上有无数关于如何玩雅达利游戏的文章和视频。同样地,有关对象和场景属性的大量知识对于机器人非常有用,关于人类愿望和情感的知识也可以改善对话模型。

虽然由于应用和关注点不同,基础模型和顺序决策的研究大体上是不相交的,但交汇的研究也越来越多。在基础模型方面,随着大语言模型的出现,目标应用从简单的零样本或少样本任务扩展到现在需要长期推理或多次交互的问题 。相反在顺序决策领域,受到大规模视觉和语言模型成功的启发,研究人员开始为学习多模型、多任务和通用交互式智能体准备越来越大的数据集。

两者领域之间的界线变得越来越模糊,一些最近的工作研究了预训练基础模型(例如 CLIP 和 ViT)在视觉环境中 bootstrap 交互式智能体的训练,而其他工作则研究了基础模型作为通过强化学习和人类反馈进行优化的对话智能体。还有一些工作还调整大型语言模型以与外部工具交互,例如搜索引擎、计算器、翻译工具、MuJoCo 模拟器和程序解释器。

最近,谷歌大脑团队、UC 伯克利和 MIT 的研究者撰文表示,基础模型和交互式决策研究相结合会让彼此受益。一方面,将基础模型应用于涉及外部实体的任务中,可以从交互式反馈和长期规划中受益。另一方面,顺序决策可以利用基础模型的世界知识更快地解决任务并进行更好的泛化。

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

论文地址:https://arxiv.org/pdf/2303.04129v1.pdf

为了在这两个领域的交集上推动进一步的研究,研究者限定了用于决策制定的基础模型的问题空间。同时提供了理解当前研究的技术工具,回顾了目前存在的挑战和未解决的问题,并预测了解决这些挑战的潜在解决方案和有前景的方法。

论文概览

论文主要分为以下 5 个主要章节。

第 2 章回顾了顺序决策的相关背景,并提供了一些基础模型和决策制定最好一起考虑的示例场景。随后讲述了围绕基础模型如何构建决策制定系统的不同组件。

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

第 3 章探讨了基础模型如何作为行为生成式模型(比如技能发现)和环境生成式模型(比如进行基于模型的推演)。

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

第 4 章探讨了基础模型如何作为状态、动作、奖励和转移动态的表示学习器(例如即插即用的视觉 - 语言模型、基于模型的表示学习)。

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

第 5 章探讨了语言基础模型如何作为交互式智能体和环境,使得可以在顺序决策框架(语言模型推理、对话、工具使用)下考虑新问题和应用。

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

最后一章,研究者概述了未解决的问题和挑战,并提出了潜在的解决方案(例如如何利用广泛的数据、如何构建环境以及基础模型和顺序决策的哪些方面可以得到改进)。

顺序决策与基础模型如何交叉互惠?谷歌、伯克利等探讨更多可能

更多细节内容请参阅原论文。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 模型
上一篇: 当ChatGPT遇见Python
相关文章 更多
谨以此献给我的祖国!写在博士论文首页的承诺,她用近40年兑现
谨以此献给我的祖国!写在博士论文首页的承诺,她用近40年兑现

75岁的陈赛娟院士获上海市科技功臣奖。她让急性早幼粒细胞白血病成为全球首个可基本治愈的急性髓系白血病。从回国时无实验室、土法PCR起步,到创立“上海方案”,用三十七年兑现博士论文首页“谨以此献给我的祖国”的承诺,挽救了十余万患者生命。

30多年前交大教授获全国唯一特等奖,拍出200万,能在上海买10多套房
30多年前交大教授获全国唯一特等奖,拍出200万,能在上海买10多套房

一九九二年,上海交大教授古宏晨的磁带涂层技术在全国大学生发明大奖赛获唯一特等奖,拍卖出两百万元,当时可在上海购买十余套房,该成果一举打破日本TDK等进口垄断,意义深远,价值极高。

特斯拉FSD新增滑板识别模型
特斯拉FSD新增滑板识别模型

近日,有汽车领域博主爆料,特斯拉的FSD(完全自动驾驶)辅助系统将迎来一次重要升级,或将实现更真实的环境场景还原。在最新曝光的软件代码中,发现了大量新增的渲染模型,涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人,以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息,日本方面已为特斯拉FSD系统的落地扫

阿里开源14B电影级视频模型,实测可玩
阿里开源14B电影级视频模型,实测可玩

AI视频生成正迎来属于“通义”的高光时刻!就在昨晚,阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频,就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频,效果惊艳。实际效果展示如下:△来自@AIMIRAI46487更令人振奋的是,这款新模型一经发布便全面开源,现在所有人都可以免费在通义万相官网体验使用。据官方介绍,Wan2.2-S2V的核心优势包括:支持最长分钟级的单次视频生成,画面稳定且具有一致性;具备影院级别的音

华为盘古 Ultra MoE 模型发布
华为盘古 Ultra MoE 模型发布

5月30日,华为推出了全新的AI模型——盘古UltraMoE,该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型,它在整个训练过程中完全基于华为的昇腾AI平台完成,标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如,Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入,显著改善了超大规模模型训练期间出现的梯度异常及

SOTA大模型加密数据评测:Qwen3仅破10%
SOTA大模型加密数据评测:Qwen3仅破10%

大语言模型面对加密数据,即便最新的Qwen3也会感到压力!尽管当下各类推理模型在多种基准测试中表现优异,但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域,模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链,还需要其能够精准辨识复杂加密模式中的潜在规律;成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评,使用大量真实隐私场景数据和多种密码算法,严苛挑战当前最先进的大模型。CipherBank的测评结果显示,目前的大语言模型

通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API
通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API

强化学习(RL)结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而,这一方法面临两大挑战:搜索引擎返回的文档质量不稳定,导致训练过程中的噪音和不稳定性;RL训练需要频繁部署,产生大量API开销,限制了可扩展性。针对这些问题,阿里通义实验室推出了开源解决方案ZeroSearch,这是一个无需与真实搜索引擎交互的强化学习框架。实验表明,ZeroSearch只需使用3B参数的LLM作为检索模块,就能有效提升搜索能力,并大幅节省API成本。ZeroSearch让LLM实现自给自足

Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬
Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬

不求速胜,熬吧。

第二代Ameca亮相!对答如流,表情逼真,多语种交流
第二代Ameca亮相!对答如流,表情逼真,多语种交流

编辑:桃子【新智元导读】第二代Ameca升级亮相,搭载GPT-4技术,实现实时对话。人形机器人Ameca迎来了它的第二代版本!近期,在2024年世界移动通信大会(MWC)上,全球最先进的机器人Ameca再度亮相。Ameca在会场周围吸引了大量观众。通过GPT-4的增强,Ameca能够即时回应各种问题。「展示一段舞蹈吧」。当被问及是否有情感时,Ameca通过一系列逼真的面部表情作出回应。就在几天前,开发Ameca的英国机器人公司EngineeredArts展示了他们团队的最新成果。视频中,Ameca具备了

阿里通义千问登顶全球开源榜 中国公司霸占前三
阿里通义千问登顶全球开源榜 中国公司霸占前三

4月2日,HuggingFace大模型榜单迎来更新,阿里通义千问近期开源的端到端全模态大模型Qwen2.5-Omni力压群雄,荣登榜首!DeepSeek-V3-0324和群核的SpatialLM-Llama-1B紧随其后,杭州公司包揽榜单前三甲。Qwen2.5-Omni展现出卓越的多模态处理能力,能够流畅处理文本、图像、音频和视频等多种数据类型,并实时生成文本及语音输出。在OmniBench等权威多模态融合任务评测中,其性能表现创下新纪录。令人惊喜的是,它仅拥有70亿参数的小巧体积,这使得全模态大模

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。