当前位置:

首页 > 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

大模型的具身智能决策能力,终于有系统的通用评估基准了。李飞飞吴佳俊团队新提出的评估框架,对具身智能决策的四项关键子能力来了个全面检查。这套基准已经被选为了NeurIPS数据和测试集(D&B)专栏Oral论文,同时也被收录进了PyPI,只要一行代码就能快速调用。该框架名为EmbodiedAgentInterface(简称EAI),提供了连接不同模块和基准环境的标准接口。利用这套框架,作者对18款主流模型进行了测试,形成了一篇超百页的论文。测试结果显示,在已公开的大模型当中,o1-preview的综合成绩位列

大模型的具身智能决策能力,终于有系统的通用评估基准了。

李飞飞吴佳俊团队新提出的评估框架,对具身智能决策的四项关键子能力来了个全面检查。

这套基准已经被选为了 NeurIPS 数据和测试集(D&B)专栏 Oral 论文,同时也被收录进了 PyPI,只要一行代码就能快速调用。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

该框架名为Embodied Agent Interface(简称 EAI),提供了连接不同模块和基准环境的标准接口。

利用这套框架,作者对 18 款主流模型进行了测试,形成了一篇超百页的论文。

测试结果显示,在已公开的大模型当中,o1-preview 的综合成绩位列第一。

李飞飞本人表示,对这项合作研究感到非常兴奋。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

有网友评价说,这项成果为大模型具身智能决策塑造了未来。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

四项子能力全面评估

首先,EAI 提供了一种统一的目标表示方法,能够兼容不同类型的目标,并支持复杂约束的描述。

团队认为,现有的具身决策任务通常针对特定领域设计目标,缺乏一致性和通用性。

例如,BEHAVIOR 和 VirtualHome 都是具身智能体的评测基准和模拟环境,用于研究智能体在复杂环境中完成任务的能力。

但二者又有所区别,BEHAVIOR 使用基于状态的目标,而 VirtualHome 使用时间扩展的目标。

EAI 则通过引入线性时态逻辑(LTL),实现了目标表示方式的统一,提高了模块之间的互操作性,便于比较不同模型在同一任务上的表现。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

在具体的评估过程当中,EAI 采用了模块化的评估方式,并将评估指标进行了更细粒度的划分。

以往的研究通常将大模型作为整体进行评估,很少关注其在具身决策各个子任务上的表现;

同时,这些现有基准通常只关注任务的最终成功率,很少深入分析模型的错误类型和原因。

为了更深入理解大模型的行为模式和优劣势分布,EAI 提出了四个关键能力模块,并设计了一系列细粒度的评估指标:

将模型能力分为四个关键模块;

定义了清晰的输入输出接口;

从轨迹可执行性、目标满足度、逻辑匹配性等多个角度评估模型的性能;

引入了丰富的注释(如目标状态、关系、动作),以实现自动化的错误分析。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

具体来说,四个关键模块及内容分别是:

目标解释(Goal Interpretation):将自然语言表述的任务目标转化为形式化的 LTL 目标公式;

子目标分解(Subgoal Decomposition):将任务目标分解为一系列子目标,每个子目标也用 LTL 公式表示;

动作序列规划(Action Sequencing):根据任务目标生成动作序列,在环境中执行以达成目标状态;

转换建模(Transition Modeling):为每个动作或操作符生成前提条件和效果,形成环境转换模型。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

另外,EAI 选取了两个具有代表性但特点迥异的环境,也就是前面提到的 BEHAVIOR 和 VirtualHome。

相比于单一环境评估,EAI更能考察大模型跨领域的泛化能力,有助于全面理解其适用范围和局限性。

o1-preview 综合成绩第一

利用 EAI 这套标准,研究团队对 GPT、Claude、Gemini 等 18 款主流模型(型号)的决策能力进行了评估。

在 BEHAVIOR 和 VirtualHome 环境下,o1-preview 均获得了排行榜综合成绩第一名。

其中在 BEHAVIOR 环境中,o1-preview 得分为 74.9,比第二名的 Claude 3.5 Sonnet 高了 10 多分,排在之后的是 60 分左右的 Claude 3 Opus 和 GPT-4o。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

到了 VirtualHome 环境下,依然是 o1-preview 领先,但前三名的成绩相对接近。

同时 Gemini 1.5 Pro 变成了第二名,不过整体来看排行靠前的几个模型和 BEHAVIOR 环境类似。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

当然如果比较单项能力,不同模型也体现出了各自不同的优势项目。

比如在 BEHAVIOR 环境中,总分排第二的 Claude 3.5 Sonnet,目标解释能力略高于总分排第一的 o1-preview。

在 VirtualHome 环境中,总分相对靠后的 Mistral Large,在动作序列规划上取得了第一名。

 李飞飞吴佳俊团队新作:推出具身智能决策能力评价基准,o1-preview 登顶

作者还对各模型的失败情况进行了深入分析,发现了将中间状态误识别为最终目标状态、对隐含的物理关系理解不足、忽略重要的前提条件等具体问题。

这些发现能够让研究人员对模型的优缺陷进行更深层的了解,为之后的研究提供了重要参考。

项目主页:

https://embodied-agent-interface.github.io/

论文:

https://arxiv.org/abs/2410.07166

代码:

https://github.com/embodied-agent-interface/embodied-agent-interface

数据集:

https://huggingface.co/datasets/Inevitablevalor/EmbodiedAgentInterface

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
上一篇: 荣耀笔记本 X16 2025 发布:酷睿 i5-13420H 处理器 + 16 英寸 IPS 屏,3499 元
下一篇: Photoshop快捷键技巧教程 常用命令一览表及图解
相关文章 更多
荣耀MagicOS 11发布计划与Agent Harness架构解析
荣耀MagicOS 11发布计划与Agent Harness架构解析

荣耀MagicOS 11定于9月15日发布,作为行业首个商用系统级Agent Harness架构的操作系统,Magic 9系列将首发搭载。新版YOYO支持最长上百步长程任务及40余项条件触发,10月开启Beta预览版招募。

华强北手机全线涨价:涨幅400-1500元,存储成本推高售价
华强北手机全线涨价:涨幅400-1500元,存储成本推高售价

华强北销售商反馈,年初以来主流手机品牌基本全线涨价,涨幅最低400元,最高达1000-1500元。涨价主因是全球存储芯片及电容等元器件成本上升,运行内存与机身存储价格涨幅超100%。尽管整体市场承压,国产折叠屏手机1-8月销量约450万台(新形态超135万台,同比增29%),AI手机成为厂商发力重点。

索尼WH-1000XM4C发布:复刻经典折叠设计并升级现代接口
索尼WH-1000XM4C发布:复刻经典折叠设计并升级现代接口

索尼发布WH-1000XM4C头戴式降噪耳机,复刻了XM4的经典四向折叠便携设计。该机型在保留QN1处理器和30小时续航的基础上,全面升级了USB-C高速充电、无损音频直连、蓝牙多点连接及AI降噪通话功能,旨在满足对便携性有极高要求的用户群体。

OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析

OpenAI GPT-6 Astra 模型通过 MCP 协议与 SourcePauseTool 控制《传送门》游戏,完成 3336 次工具调用并自主通关。实验耗时约 24 小时,API 成本约 571 美元,展示了多模态 AI 在 3D 解谜领域的突破性进展。

AI重构企业业务架构:超聚变“智企”范式核心解析
AI重构企业业务架构:超聚变“智企”范式核心解析

本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

贵州省住建厅与贝壳集团签署旅居战略合作:五大维度落地方案解析
贵州省住建厅与贝壳集团签署旅居战略合作:五大维度落地方案解析

9月3日,贵州省住建厅与贝壳集团在贵阳签署《旅居产业发展战略合作框架协议》,旨在打造全国旅居样板。合作涵盖平台建设、标准共建、人才培育、存量资产盘活及品牌推广五大维度,依托贝壳近600家门店及4000余名经纪人资源,强化贵州旅居服务供给,促进房地产市场平稳健康发展。

上海链家安住APP:业主主动卖房功能与成交数据解析
上海链家安住APP:业主主动卖房功能与成交数据解析

本文解析上海链家推出的“安住APP”功能,该工具允许业主在贝壳/链家挂牌后主动管理房源。通过实时查看销售进展、发送看房邀约及获取AI策略,业主可缩短成交周期。数据显示试点期间平均成交7天,最短1天。适用于希望提高信息透明度、主动参与卖房过程的业主。

打破流量垄断,让平台经济释放普惠红利
打破流量垄断,让平台经济释放普惠红利

2026年6月工信部等七部门印发《促进平台经济大中小企业协同发展行动方案》,明确平台经济是数字技术赋能的实体经济。针对流量垄断与“数字租金”问题,专家主张治理重心应从静态整改转向推动平台能力向中小企业外溢,通过算法透明、接口开放及数据可迁移,打破封闭生态,实现创新与规范并重的高质量发展。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。