李飞飞吴佳俊团队新作：推出具身智能决策能力评价基准，o1-preview 登顶
大模型的具身智能决策能力，终于有系统的通用评估基准了。李飞飞吴佳俊团队新提出的评估框架，对具身智能决策的四项关键子能力来了个全面检查。这套基准已经被选为了NeurIPS数据和测试集（D&B）专栏Oral论文，同时也被收录进了PyPI，只要一行代码就能快速调用。该框架名为EmbodiedAgentInterface（简称EAI），提供了连接不同模块和基准环境的标准接口。利用这套框架，作者对18款主流模型进行了测试，形成了一篇超百页的论文。测试结果显示，在已公开的大模型当中，o1-preview的综合成绩位列
大模型的具身智能决策能力，终于有系统的通用评估基准了。
李飞飞吴佳俊团队新提出的评估框架，对具身智能决策的四项关键子能力来了个全面检查。
这套基准已经被选为了 NeurIPS 数据和测试集（D&B）专栏 Oral 论文，同时也被收录进了 PyPI，只要一行代码就能快速调用。
该框架名为Embodied Agent Interface（简称 EAI），提供了连接不同模块和基准环境的标准接口。
利用这套框架，作者对 18 款主流模型进行了测试，形成了一篇超百页的论文。
测试结果显示，在已公开的大模型当中，o1-preview 的综合成绩位列第一。
李飞飞本人表示，对这项合作研究感到非常兴奋。
有网友评价说，这项成果为大模型具身智能决策塑造了未来。
四项子能力全面评估
首先，EAI 提供了一种统一的目标表示方法，能够兼容不同类型的目标，并支持复杂约束的描述。
团队认为，现有的具身决策任务通常针对特定领域设计目标，缺乏一致性和通用性。
例如，BEHAVIOR 和 VirtualHome 都是具身智能体的评测基准和模拟环境，用于研究智能体在复杂环境中完成任务的能力。
但二者又有所区别，BEHAVIOR 使用基于状态的目标，而 VirtualHome 使用时间扩展的目标。
EAI 则通过引入线性时态逻辑（LTL），实现了目标表示方式的统一，提高了模块之间的互操作性，便于比较不同模型在同一任务上的表现。
在具体的评估过程当中，EAI 采用了模块化的评估方式，并将评估指标进行了更细粒度的划分。
以往的研究通常将大模型作为整体进行评估，很少关注其在具身决策各个子任务上的表现；
同时，这些现有基准通常只关注任务的最终成功率，很少深入分析模型的错误类型和原因。
为了更深入理解大模型的行为模式和优劣势分布，EAI 提出了四个关键能力模块，并设计了一系列细粒度的评估指标：
将模型能力分为四个关键模块；
定义了清晰的输入输出接口；
从轨迹可执行性、目标满足度、逻辑匹配性等多个角度评估模型的性能；
引入了丰富的注释（如目标状态、关系、动作），以实现自动化的错误分析。
具体来说，四个关键模块及内容分别是：
目标解释（Goal Interpretation）：将自然语言表述的任务目标转化为形式化的 LTL 目标公式；
子目标分解（Subgoal Decomposition）：将任务目标分解为一系列子目标，每个子目标也用 LTL 公式表示；
动作序列规划（Action Sequencing）：根据任务目标生成动作序列，在环境中执行以达成目标状态；
转换建模（Transition Modeling）：为每个动作或操作符生成前提条件和效果，形成环境转换模型。
另外，EAI 选取了两个具有代表性但特点迥异的环境，也就是前面提到的 BEHAVIOR 和 VirtualHome。
相比于单一环境评估，EAI更能考察大模型跨领域的泛化能力，有助于全面理解其适用范围和局限性。
o1-preview 综合成绩第一
利用 EAI 这套标准，研究团队对 GPT、Claude、Gemini 等 18 款主流模型（型号）的决策能力进行了评估。
在 BEHAVIOR 和 VirtualHome 环境下，o1-preview 均获得了排行榜综合成绩第一名。
其中在 BEHAVIOR 环境中，o1-preview 得分为 74.9，比第二名的 Claude 3.5 Sonnet 高了 10 多分，排在之后的是 60 分左右的 Claude 3 Opus 和 GPT-4o。
到了 VirtualHome 环境下，依然是 o1-preview 领先，但前三名的成绩相对接近。
同时 Gemini 1.5 Pro 变成了第二名，不过整体来看排行靠前的几个模型和 BEHAVIOR 环境类似。
当然如果比较单项能力，不同模型也体现出了各自不同的优势项目。
比如在 BEHAVIOR 环境中，总分排第二的 Claude 3.5 Sonnet，目标解释能力略高于总分排第一的 o1-preview。
在 VirtualHome 环境中，总分相对靠后的 Mistral Large，在动作序列规划上取得了第一名。
作者还对各模型的失败情况进行了深入分析，发现了将中间状态误识别为最终目标状态、对隐含的物理关系理解不足、忽略重要的前提条件等具体问题。
这些发现能够让研究人员对模型的优缺陷进行更深层的了解，为之后的研究提供了重要参考。
项目主页：
https://embodied-agent-interface.github.io/
论文：
https://arxiv.org/abs/2410.07166
代码：
https://github.com/embodied-agent-interface/embodied-agent-interface
数据集：
https://huggingface.co/datasets/Inevitablevalor/EmbodiedAgentInterface
首尔大学突破性研究：完全平坦的可穿戴发电机，体温驱动未来 最近科技圈有个消息挺有意思。3月20日，知名科技媒体Notebook Check报道了首尔大学研究团队的一项新成果——一款完全平坦的可穿戴发电机。这项研究已经正式发表在权威期刊《科学进展》上，可以说是为“无电池”可穿戴设备撕开了一道新口子。
涂鸦智能成为联合国气候解决方案平台首批战略合作伙伴 11月14日传来一个值得关注的消息。在《联合国气候变化框架公约》第三十次缔约方大会期间，中国AI云平台服务商涂鸦智能，正式成为了联合国气候解决方案平台的全球首批战略合作伙伴之一。这意味着，未来各方都能通过这个平台，共享、验证并推广那些经过实践检验的
“我们的代码，终将写入繁星”：追觅科技成立天文BU，构建从地面到太空的生态闭环 “我们的代码，终将写入繁星。”这句来自追觅科技的宣言，不只是一句诗意的口号，更是一份清晰的战略升级路线图。就在9月10日，这家中国科技企业正式宣告成立天文业务单元（BU），由此完成了一次至关重要的战略跃迁。这标志着其“全
智谱发布GLM-5.1：国产大模型迈进“价值定价”新阶段 就在4月8日，人工智能领域传来一则重磅消息：智谱正式发布了新一代开源模型GLM-5.1。不过，比发布本身更值得玩味的，是同步发生的一件事。根据OpenRouter平台显示的数据，智谱GLM系列模型的价格上调了10%。这一动作的影响立竿见影——
阿里巴巴在AI战略上的投入力度，再次以组织架构调整的方式，向市场发出了明确信号。 4月8日，观察者网从阿里巴巴方面获取的信息显示，集团CEO吴泳铭通过内部信，宣布了一系列围绕AI的组织调整。核心动作有两个：一是在集团层面新设技术委员会，二是将原有的通义实验室升级为通义大模型事业部。这一连串动作，指向
不谈智能体，客户都不见你。腾讯云副总裁、腾讯云智能负责人、腾讯优图实验室负责人吴运声在采访中坦言。这意味着，如今提供云服务，若没有智能体相关的硬核能力，已难以打动客户。在2025腾讯全球数字生态大会上，腾讯云给出了自己的回应：正式发布智能体开发平台3.0（ADP3.0），并宣布腾讯优图实验室的关键智能体技术将逐步开源。据悉，该版本历经近三个月集中迭代，累计上线近600项功能，在RAG能力、Workflow流程、多智能体协作、应用评测及插件生态等方面实现全面升级。更值得关注的是，腾讯云透露未来数月将持续开源
7月16日，CNMO得知，豪华智能越野SUV——猛士M817将于7月17日举办技术发布及新车预售活动。据了解，猛士M817全车搭载华为全栈智能解决方案，并将率先配备乾崑智驾ADS4。猛士M817作为东风猛士科技与华为合作的首个项目，猛士M817在华为全栈智能解决方案的支持下，实现了智能化、越野性能和高端定位的三重提升，使车辆具备类似人类的感知能力、思考能力和进化能力，为用户带来更加豪华、强悍、智能的出行体验。乾崑智驾ADS4让猛士M817实现了从车位到车位的
近日，兄弟（中国）商业有限公司宣布其智能刺绣设计应用“畅享绣”已完成iOS系统适配及操作体验优化，现已正式上线AppStore。苹果用户可通过iPhone或iPad设备，便捷地将手绘图案转化为刺绣作品，以科技力量赋能传统工艺，开启全民创意刺绣新纪元。此次iOS版本的发布，意味着“畅享绣”已全面覆盖安卓与苹果两大移动平台，使更多用户能够随时随地享受刺绣的乐趣。该应用程序致力于降低专业门槛，让每一位用户都能成为生活中的艺术创作者。以往，个性化刺绣需要依赖专业软件，操作繁琐。而“畅享绣”只需
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
