当前位置:

首页 > 业界资讯 > 应对复杂自主操控任务,伯克利开发高质量大型机器人操控基准不再困难

应对复杂自主操控任务,伯克利开发高质量大型机器人操控基准不再困难

随着人工智能和机器人技术的迅速发展,功能操控(FunctionalManipulation)在机器人学中的重要性愈加突出。传统的基准测试已无法满足目前机器人对复杂操控任务的需求,呼吁新的操控基准(FunctionalManipulationBenchmark)出现。概述机器人操控面临两个主要挑战:机器人如何智能地处理复杂的接触动力学以及如何应对环境和物体的多样性。针对这些挑战,机器人学习技术被视为关键的解决手段。因此,该领域需要一个全面易得的框架,提供有挑战性的实际任务、高质量数据、易于复制的设置,集合了

本文目录

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    随着人工智能和机器人技术的迅速发展,功能操控(Functional Manipulation)在机器人学中的重要性愈加突出。传统的基准测试已无法满足目前机器人对复杂操控任务的需求,呼吁新的操控基准(Functional Manipulation Benchmark)出现。

    概述

    机器人操控面临两个主要挑战:机器人如何智能地处理复杂的接触动力学以及如何应对环境和物体的多样性。针对这些挑战,机器人学习技术被视为关键的解决手段。因此,该领域需要一个全面易得的框架,提供有挑战性的实际任务、高质量数据、易于复制的设置,集合了基线结果的相关方法,基于该框架,研究人员能够对所提出任务的实验发现进行深入分析。

    加州大学伯克利分校智能机器人实验室(RAIL)的研究团队提出了如上所述的现实世界基准,称为 FMB(Functional Manipulation Benchmark for Generalizable Robotic Learning)。

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    • 项目主页:https://functional-manipulation-benchmark.github.io/
    • 论文地址:https://arxiv.org/abs/2401.08553
    • 论文题目:FMB: a Functional Manipulation Benchmark for Generalizable Robotic Learning
    • 共同第一作者主页:https://people.eecs.berkeley.edu/~jianlanluo/
    • https://charlesxu0124.github.io/

    FMB 具有以下特点:

    • 创新设计:采用了 3D 打印技术制作任务中的物体,来考验机器人的泛化能力,这种方法也便于其他研究人员复现。
    • 多样化任务:包含单物体和多物体多阶段操控任务,真实模拟日常环境中的挑战。
    • 大型数据集:通过大量人工演示,为机器人提供了丰富的数据集。
    • 模仿学习基线:使用最先进的机器学习方法,提供了基线结果和模块化组件以供其他研究者使用。

    物体和任务

    FMB 中的任务大致分为两类:单物体多步骤操控任务和多物体多步骤操控任务。这些任务旨在测试机器人的基本技能,如抓取、重新定位和装配等,这些都是完成整个任务所必需的技能。FMB 中的任务要求机器人不仅能完成单一的操控技能,还要求机器人能够将这些技能组合起来,完成更为复杂的多步骤任务。

    FMB 的任务设计灵活多变,研究人员可以根据需要选择专注于单一技能,深入研究机器人的操控能力,也可以研究完整的多步骤任务,这需要机器人进行长期规划并具备从失败中恢复的能力。由于涉及选择合适的物体并推理操控物体的顺序,更为复杂的多步骤任务要求机器人能够做出复杂的实时决策。

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    大型数据集

    在机器人学习的过程中,数据的作用不可小觑。为了使机器人更好地理解和掌握复杂的任务,研究团队收集了一个涵盖上述任务的大规模专家人类示范数据集,包含超过两万个操作轨迹。研究团队采用了四个不同的摄像机记录这些示范数据,其中两个摄像机安装在机器人的腕部,另外两个提供全局视角。这些摄像机捕捉了对于机器人学习解决任务至关重要的 RGB 彩色图像信息、深度信息等数据。

    此外,数据集还记录了机器人末端执行器的力 / 扭矩信息,这对于像装配这样需要接触大量物体的的任务非常重要。通过这些丰富的数据,机器人能够深入理解任务的每个细节,更加精确地模仿人类的操作技巧。正是由于数据的深度和广度,为机器人学习提供了坚实的基础。这使得机器人在执行复杂任务时,能够更加人性化和更灵巧地对任务作出响应。

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    模仿学习基线

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    基线策略的架构图。

    基于 Transformer 和 ResNet 的两种模型都使用了共享权重的 ResNet 编码器对每个图像视图进行编码,然后与本体感知信息和可选的物体和相应的机器人技能编码特征结合,以预测 7 自由度的动作。

    FMB 的实验部分对模仿学习系统的性能进行了一系列测试,比较了不同的学习方法,探究了不同输入模式和设计决策的影响。实验发现,使用深度信息有助于提高抓取策略的效果,力 / 扭矩信息对于装配任务非常重要。对于多步骤任务,传统的 ResNet、Transformer 和 Diffusion 方法均未能奏效,但该论文中提出的分级控制 (hierarchical control) 方法显示出了潜力。

    抓取任务

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    实验结果显示,纳入深度信息的 ResNet 策略在抓取任务中的性能一致优于仅使用 RGB 信息的策略。通过数据削减研究,研究团队探究了不同数量的训练数据对抓取任务性能的影响。结果显示,纳入深度信息的 ResNet 策略在处理已见物体时的性能将随着训练数据量的增加而提升。值得注意的是,该策略对未见过的物体表现出了与已见物体相近的性能,这表明训练对象的多样性极大地促进了机器人的泛化能力。

    装配任务

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    在装配任务中,力 / 扭矩信息的重要性得到了证实。力 / 扭矩信息对于机器人采取的策略判断物体是否已经接触到目标表面,并有效进行搜索等行为非常重要。

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    然而,当策略在所有物体上进行训练时,机器人并不总是能够成功地完成装配任务。这是因为策略需要首先判断应将物体装配到哪个孔中,然后再生成相应的动作,这大大增加了任务的复杂性。为了解决这个问题,研究团队在策略中添加了一个选取物体机制,帮助策略确定需要装配的物体的形状,从而专注于生成正确的装配动作。

    多步骤任务

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    FMB 的框架包含了两项复杂任务。这些复杂任务要求机器人能够像人类一样连续完成多个步骤。此前的方法是让机器人学习整个过程,但这种方法容易因为单一环节的错误而不断累计误差,最后导致整个任务失败。无论是在单物体还是多物体操控任务中,这种方法的成功率均为 0/10。

    针对累积误差问题,研究团队采用了分层控制策略。分层策略通过将任务分解成若干小块,每完成一块便相当于通过一个决策点,即使出现错误也能迅速纠正,避免影响后续环节。例如,如果机器人在抓取过程中未能稳固抓住物体,它会持续尝试直至成功。

    研究团队测试了两种分层方法,第一种方法为单一策略提供指示任务类型的有效向量,而第二种方法则是针对每个操控技能单独训练不同的策略,均采用了操作员的指令作为上层策略,在测试中,研究团队发现这两种方法均表现优异。

    测试结果显示了分层方法在处理复杂机器人任务中的有效性,并为未来研究提供了新的研究方向。

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    如上图所示,机器人在学习后能够自主进行功能操控。

    伯克利开源高质量大型机器人操控基准,面对复杂自主操控任务不再犯难

    总的来说,以上实验展示了研究团队在机器人学习领域的技术创新,也验证了 FMB 是适合开发先进机器人学习方法的基准。研究团队研究期待未来的研究可以在 FMB 基础上进一步推动机器人学习的边界。
    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 机器人技术
    相关文章 更多
    荣耀终端李健:机器人技术反向回流手机,押注具身智能终端新形态
    荣耀终端李健:机器人技术反向回流手机,押注具身智能终端新形态

    当国内智能手机行业普遍在芯片、大模型、影像参数上展开内卷,荣耀终端CEO李健抛出产业层面的思考:进入AI时代,智能手机是否只能固守传统直板机身形态。在8月12日新品发布会上,李健向现场观众阐述了Robot Phone背后的技术路径,这款被称作全球首款机器人手机的产品,是荣耀机器人团队技术沉淀向消费终

    闪电们打破人类半马世界纪录,荣耀机器人技术三重底牌首次揭秘
    闪电们打破人类半马世界纪录,荣耀机器人技术三重底牌首次揭秘

    是时候重新思考中国机器人产业了 北京亦庄每年的机器人马拉松,堪称观察中国机器人水平演进的绝佳窗口。 回想去年,赛场上多数机器人还步履蹒跚,甚至上演了跑着跑着“头掉手断”的戏剧性场面。然而,短短两年时间,中国机器人的迭代速度之快,令人惊叹。 今年的赛道条件更为严苛。现场不再是实验室里平坦光滑的跑道,而

    一年损耗4.6亿吨、1.88万亿打水漂!县域经济,别再“卖特产”了
    一年损耗4.6亿吨、1.88万亿打水漂!县域经济,别再“卖特产”了

    前瞻研判:未来十年,县域特色化经济的竞争,不再是资源的竞争,而是市场信任的竞争。谁能为消费者提供最确定的价值承诺,谁就能赢得市场。 2026年全国两会刚刚落幕,“十五五”规划进入开局之年。今年的政府工作报告中,“扎实推进乡村全面振兴”被摆在突出位置,明确提出要“壮大县域富民产业,做好土特产文章”。这

    南昌光电产业集群将重磅亮相ISLE 2026
    南昌光电产业集群将重磅亮相ISLE 2026

    2026 ISLE展前瞻:南昌光电产业集群即将重磅亮相 明年三月,深圳国际会展中心将迎来一场行业盛事。2026年3月5日至7日,ISLE国际智慧显示及系统集成展将在这里拉开帷幕。而这一次,聚光灯将格外聚焦于一个区域——南昌光电产业集群。他们将以“光耀南昌,智链全球”为主题,携一支实力雄厚的“集团军”

    天龙三号全球首次海上动力系统试车成功,商业航天竞速“大运力”更需安全“压舱石”
    天龙三号全球首次海上动力系统试车成功,商业航天竞速“大运力”更需安全“压舱石”

    天龙三号海上试车成功:看中国商业航天如何将“安全”铸为核心竞争力 9月15日,山东海阳东方航天港,巨大的轰鸣声撕裂长空,炽热的白色蒸汽升腾而起。北京天兵科技自主研制的天龙三号大型液体运载火箭,在这里的海上平台成功完成了一级动力系统试车。 这次试车可不简单——它是世界首次海上动力系统试车试验。结果让人

    通用技术集团发布四大战略行动计划,形成全维发展布局
    通用技术集团发布四大战略行动计划,形成全维发展布局

    3月18日,通用技术集团机床产业生态合作伙伴大会在北京国家会议中心举行 春日的北京,一场关乎中国工业未来的盛会拉开帷幕。通用技术集团机床产业生态合作伙伴大会在国家会议中心举行,近500位产业链上下游的企业代表与行业专家齐聚一堂。会上,通用技术集团总工程师、机床公司董事长周舟发布了集团机床产业的未来发

    华为鸿蒙电脑亮相,重构产业新格局
    华为鸿蒙电脑亮相,重构产业新格局

    华为鸿蒙电脑技术与生态沟通会隆重举行,首款鸿蒙电脑惊艳登场,这一标志性事件预示着华为在电脑领域迈出了具有深远影响的关键一步,为国产电脑产业带来了全新的革新与发展契机。鸿蒙电脑的推出并非一朝一夕之功,而是华为经过五年精心策划的结果。在此期间,华为汇聚了超过10000名顶尖工程师,与20多家专业研究所紧密合作,投入大量的精力与资源进行技术研发,最终积累了超过2700项核心专利,彰显了其强大的技术实力与创新能力。新推出的HarmonyOS5采用鸿蒙内核,从操作系统底层开始重构,旨在为用户提供全面升级的办公体验

    ACL 2024 | 提升大模型持续学习性能,哈工大、度小满提出共享注意力框架SAPT
    ACL 2024 | 提升大模型持续学习性能,哈工大、度小满提出共享注意力框架SAPT

    AIxiv专栏是本站发布学术、技术内容的栏目。过去数年,本站AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com赵伟翔是哈尔滨工业大学社会计算与信息检索研究中心2021级直博生,导师为赵妍妍教授和秦兵教授。主要研究方向为对话系统、大语言模型对齐等。他曾以第一作者在ACL、AAAI、IJCAI、CO

    贾扬清点赞:3K star量的SGLang上新,加速Llama 405B推理秒杀vLLM、TensorRT-LLM
    贾扬清点赞:3K star量的SGLang上新,加速Llama 405B推理秒杀vLLM、TensorRT-LLM

    用来运行Llama3405B优势明显。最近,Meta开源了最新的405B模型(Llama3.1405B),把开源模型的性能拉到了新高度。由于模型参数量很大,很多开发者都关心一个问题:怎么提高模型的推理速度?时隔才两天,LMSYSOrg团队就出手了,推出了全新的SGLangRuntimev0.2。这是一个用于LLM和VLM的通用服务引擎。在运行Llama3.1405B时,它的吞吐量和延迟表现都优于vLLM和TensorRT-LLM。在某些情况下(运行Llama系列模型),它的吞吐量甚至能达到TensorRT

    人类模仿AI新赛道,AI:论疯癫,你是我爹
    人类模仿AI新赛道,AI:论疯癫,你是我爹

    机器之能报道编辑:杨文AI被人类带坏!这个世界,太癫了……最近,社交媒体上冒出来一堆搞怪视频,打着AI的旗号,真人cosAI,甚至抖音还专门出了个热门话题——人类模仿AI大赛。(视频来自抖音博主「关妮乱石」)视频链接:https://mp.weixin.qq.com/s/1DVc8skecSsO0a9QcklZlw套路都一个样儿:左边一张旧照片,右边打着「AI修复」的字幕,实际由真人演绎着脑干缺失的狗血「剧情」。-1-AI:第一次被人冒充,没想到比我还抽

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。