当前位置:

首页 > 业界资讯 > 利用Vision Pro在实时模式下训练机器狗!MIT博士生的开源项目备受关注

利用Vision Pro在实时模式下训练机器狗!MIT博士生的开源项目备受关注

VisionPro又现火爆新玩法,这回还和具身智能联动了~就像这样,MIT小哥利用VisionPro的手部追踪功能,成功实现了对机器狗的实时控制。不仅开门这样的动作能精准get:也几乎没什么延时。Demo一出,不仅网友们大赞鹅妹子嘤,各路具身智能研究人员也嗨了。比如这位准清华叉院博士生:还有人大胆预测:这就是我们与下一代机器互动的方式。项目如何实现,作者小哥朴英孝(YounghyoPark)已经在GitHub上开源。相关App可以直接在VisionPro的AppStore上下载。用VisionPro训练机

Vision Pro又现火爆新玩法,这回还和具身智能联动了~

就像这样,MIT小哥利用Vision Pro的手部追踪功能,成功实现了对机器狗的实时控制。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

不仅开门这样的动作能精准get:

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

也几乎没什么延时。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

Demo一出,不仅网友们大赞鹅妹子嘤,各路具身智能研究人员也嗨了。

比如这位准清华叉院博士生:

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

还有人大胆预测:这就是我们与下一代机器互动的方式。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

项目如何实现,作者小哥朴英孝(Younghyo Park)已经在GitHub上开源。相关App可以直接在Vision Pro的App Store上下载。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

用Vision Pro训练机器狗

具体来看看作者小哥开发的App——Tracking Steamer

顾名思义,这个应用程序旨在利用Vision Pro追踪人类动作,并将这些动作数据实时传输到同一WiFi下的其他机器人设备上。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

动作追踪的部分,主要依靠苹果的ARKit库来实现。

其中头部追踪调用的是queryDeviceAnchor。用户可以通过长按数字表冠来重置头部框架到当前位置。

手腕和手指追踪则通过HandTrackingProvider实现。它能够追踪左右手腕相对于地面框架的位置和方向,以及每只手25个手指关节相对于手腕框架的姿态。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

网络通信方面,这个App使用gRPC作为网络通信协议来流式传输数据。这使得数据能被更多设备订阅,包括Linux、Mac和Windows设备。

另外,为了方便数据传输,作者小哥还准备了一个Python API,让开发者能够通过编程方式订阅和接收从Vision Pro流式传输的追踪数据。

API返回的数据是字典形式,包含头部、手腕、手指的SE(3)姿态信息,即三维位置和方向。开发者可以直接在Python中处理这些数据,用于对机器人的进一步分析和控制。

用Vision Pro实时训练机器狗!MIT博士生开源项目火了

就像不少专业人士所指出的那样,别看机器狗的动作还是由人类控制,事实上,相比于“操控”本身,结合模仿学习算法,人类在这个过程中,更像是机器人的教练。

而Vision Pro通过追踪用户的动作,提供了一种直观、简单的交互方式,使得非专业人员也能够为机器人提供精准的训练数据。

作者本人也在论文中写道:

在不久的将来,人们可能会像日常戴眼镜一样佩戴Vision Pro这样的设备,想象一下我们可以从这个过程中收集多少数据!

这是一个充满前景的数据源,机器人可以从中学习到,人类是如何与现实世界交互的。

最后,提醒一下,如果你想上手试一试这个开源项目,那么除了必备一台Vision Pro之外,还需要准备:

  • 苹果开发者账户
  • Vision Pro开发者配件(Developer Strap,售价299美元)
  • 安装了Xcode的Mac电脑

嗯,看样子还是得先让苹果赚一笔了(doge)。

项目链接:https://github.com/Improbable-AI/VisionProTeleop?tab=readme-ov-file

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯
上一篇: 威刚 XPG FUSION 1600W ATX 3.0 钛金电源支持双路 RTX 4090,已上市售价 4999 元
下一篇: Photoshop快捷键技巧教程 常用命令一览表及图解
相关文章 更多
行业首个!大晓「晓途」开启机器狗开放场景7×24小时自主运营新模式
行业首个!大晓「晓途」开启机器狗开放场景7×24小时自主运营新模式

大晓机器人「晓途」机器狗在上海西岸实现7×24小时常态化巡逻,搭载具身超级大脑模组与云端平台,首创开放环境自主导航,不依赖预建地图,实时感知避障。云端集群调度可一人管控多机,完成异常发现、取证、劝导至执法联动闭环,全天候守护公共空间。

大晓机器人的赛博机器狗,开始在上海和天津「打全工」了
大晓机器人的赛博机器狗,开始在上海和天津「打全工」了

大晓机器人研发的“晓途”系统让机器狗在上海、天津投入7×24小时自主巡逻。搭载A1超级大脑,具备即视即行能力,可自主避障、上下台阶、识别不文明行为并语音劝导。云端平台实现一人控多机,覆盖昼夜盲区,并拓展至安防、工业运维等领域。

机器狗巡逻需多人配合,机器人指挥交通靠背后遥控?“智甲战队”正在断奶……
机器狗巡逻需多人配合,机器人指挥交通靠背后遥控?“智甲战队”正在断奶……

无锡公安与企业合作组建“智甲战队”,包含人形机器人、机器狗等设备,用于交通指挥、巡逻等公共安全场景。目前机器人仍需人工遥控,正逐步实现自主能力,通过场景验证推动技术迭代。

海报荐读|机器狗巡逻需多人配合,机器人指挥交通靠背后遥控?“智甲战队”正在断奶;上海郊区五个新城:富含创新浓度,跃升产业能级
海报荐读|机器狗巡逻需多人配合,机器人指挥交通靠背后遥控?“智甲战队”正在断奶;上海郊区五个新城:富含创新浓度,跃升产业能级

本期海报荐读聚焦多个热点话题,以下是具体内容: 超越伦敦之后,上海“剧透”国际航运中心建设未来五年怎么干 曹立媛 设计 机器狗巡逻需多人配合,机器人指挥交通靠背后遥控?“智甲战队”正在断奶…… 曹立媛 设计 上海郊区五个新城:富含创新浓度,跃升产业能级 邵竞 设计 专访谭家华院士:从高价进口到出口管

华为盘古 Ultra MoE 模型发布
华为盘古 Ultra MoE 模型发布

5月30日,华为推出了全新的AI模型——盘古UltraMoE,该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型,它在整个训练过程中完全基于华为的昇腾AI平台完成,标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如,Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入,显著改善了超大规模模型训练期间出现的梯度异常及

每2秒解一道高数题!华为揭秘万亿MoE训练系统全流程
每2秒解一道高数题!华为揭秘万亿MoE训练系统全流程

现在,请大家一起来数一下"1"、"2"。OK,仅仅2秒的时间,一个接近万亿规模的MoE大模型就已经掌握了如何解答一道高等数学难题的方法!而且呢,这个大模型还是完全依靠国产设备进行训练的,整个流程都体现了浓浓的“国产”特色。这就是华为借助"昇腾+PanguUltraMoE"这一组合实现的成果——不仅达成了国产算力与国产模型在全流程上的自主可控训练闭环,还在集群训练系统的性能方面达到了行业顶尖水平。有多顶尖?来看一组数据:预训练阶段:昇腾Atlas800TA2万卡集群的MFU提升

美团推出首个语音GUI智能体,端到端语音训练更优
美团推出首个语音GUI智能体,端到端语音训练更优

只需动动嘴,就能操控GUI代理?由美团与浙江大学联合推出的GUIRoboTron-Speech——让你彻底解放双手,直接对设备“发号施令”。这是首个可以直接通过语音指令和屏幕截图进行端到端(End-to-End)决策的自主GUI智能体,致力于为用户提供更自然、高效且无障碍的人机交互方式。从文本到语音,智能代理的新一轮进化目前,基于大语言模型(LLMs)的自主GUI智能体已经能够通过文本指令自动完成跨应用、多步骤的复杂操作,显著提升用户效率。然而,这种依赖文本输入的方式在某些场景中存在明显局限

Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬
Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬

不求速胜,熬吧。

比特现金未来:可扩展性与支付潜力
比特现金未来:可扩展性与支付潜力

比特现金(BCH)的未来发展前景看好。凭借其可扩展性、支付采用、价值存储、智能合约和坚实的社区支持,比特现金有望在多个领域取得显著发展,成为一种多功能且广泛使用的加密货币。

ACH总量10亿,价值与用途详解
ACH总量10亿,价值与用途详解

ACH 总共发行了 10 亿枚,用于支付网关费用、治理投票和质押奖励。ACH 基于 BEP-20 标准,采用 PoS 机制,可通过私募、公募和生态系统分配获取,其价值受服务需求、实用性和市场趋势影响,可在币安、火币等交易所购买。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。