当前位置:

首页 > 业界资讯 > 新标题:北航团队提出具身智能新架构,实现大型无人机的操控

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

进入多模态时代,大模型也会操纵无人机了!当视觉模块捕捉到启动条件时,大模型这个“大脑”会生成动作指令,然后无人机可以迅速准确地执行周尧明教授领导的北京航空航天大学智能无人机团队的研究人员,提出了一种基于多模态大模型的具身智能体架构目前,这种结构已经用于控制无人机这种新的智能体表现如何,又有哪些技术细节呢?“智能体即大脑”研究团队利用大模型对多模态数据进行理解,将真实物理世界的照片、声音、传感器数据等多源信息融合,以使智能体能够感知周围环境,并作出相应的行为操作同时,团队提出了一套“AgentasCereb

进入多模态时代,大模型也会操纵无人机了!

当视觉模块捕捉到启动条件时,大模型这个“大脑”会生成动作指令,然后无人机可以迅速准确地执行

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

周尧明教授领导的北京航空航天大学智能无人机团队的研究人员,提出了一种基于多模态大模型的具身智能体架构

目前,这种结构已经用于控制无人机

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

这种新的智能体表现如何,又有哪些技术细节呢?

“智能体即大脑”

研究团队利用大模型对多模态数据进行理解,将真实物理世界的照片、声音、传感器数据等多源信息融合,以使智能体能够感知周围环境,并作出相应的行为操作

同时,团队提出了一套“Agent as Cerebrum,Controller as Cerebellum”(智能体即大脑,控制器即小脑)的控制架构:

智能体作为大脑这一决策生成器,专注于生成高层级的行为。 重写后的句子:作为大脑的决策生成器,智能体专注于生成高层次的行为

作为小脑的运动控制器,控制器的主要职责是将高层行为(如预期目标点)转化为低层系统命令(如旋翼转速)

具体来说,研究团队认为这一成果主要有三项贡献。

应用于实际的新型系统架构

研究团队提出了一种新的系统架构,可以应用于实际的机器人。该架构将基于多模态大模型的智能体具象化为大脑

而机器人运动规划器与控制器则被具象化为小脑,机器人的感知系统类比为人的眼、耳等信息收集器,机器人的执行机构类比为人的手等执行器。

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

△图1 硬件系统架构

这些节点通过ROS相连,通过ROS中消息的订阅与发布或服务的请求与响应实现通信,区别于传统的端到端的机器人大模型控制。

这一架构使得Agent可以专注于高层级命令的产生,对于高层级任务具备更强的智能性,对于实际的执行具备更好的鲁棒性和可靠性。

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

需要重写的内容是:△图2 软件系统架构 重写后的内容:软件系统架构如图2所示

新型智能体

在这一架构下,作者构建了作为大脑的一种智能体AeroAgent。

该智能体主要包括三个部分:

  • 一个自动计划生成模块,具有多模态感知监测能力,同时擅长进行待机模式下的应急突发事件处理。
  • 一个多模态数据记忆模块,可以用于多模态记忆检索和反思,为智能体赋予少样本学习能力。
  • 一个具身智能动作模块,可以建立具身智能体与ROS上其他模块进行稳定控制的桥梁,这一模块提供了对于ROS上其他节点以操作为桥梁进行访问的能力。

同时,为了完成一个动作,可能需要多次交互操作以从传感器获取执行该动作所必需的参数,以确保智能体能够根据综合态势感知和所具备的执行器来稳定输出具体的行动

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

需要重写的内容是:△图3 AeroAgent模块架构 重写后的内容:△图3 AeroAgent 模块架构设计

连接大模型和ROS的桥梁

为了给具身智能体和ROS机器人系统建立桥梁,让Agent产生的操作能够正确地、稳定地发送给ROS并被其他节点成功执行,同时让其他节点所提供的信息让LMM能够读取与理解,团队设计了了ROSchain——

一个将LLMs/LMMs与ROS连接起来的桥梁

ROSchain通过一套模块和应用程序接口(APIs)简化了大型模型与机器人传感装置、执行单元和控制机制的集成,为智能体接入ROS系统提供了一个稳定的中间件。

为什么选择无人机

研究团队给出了三个原因,解释了为什么他们选择了无人机来进行该系统架构的测试和模拟

首先,如今LMMs中所蕴含的web-scale的世界知识,多为第三人称视角,人型机器人等领域的具身智能是类似于以人类为主体出发的第一人称视角。

无人机上的相机,尤其是下视相机,更像是第三人称视角(上帝视角)的有机体智能

另一方面,现阶段的LMMs无论是模型部署还是API服务,通常受限于计算资源导致响应有一定的延迟。

无人机的任务规划由于其可以悬停,具备应对延迟的能力,这对于自动驾驶等领域是一个应用的障碍

这两点都导致目前技术发展水平下无人机适合作为先驱进行相关理论与应用的验证。

第二,目前工业无人机领域,如山火救援、农林植保、无人放牧、电力巡检等,多由飞手与专家配合实际操作,智能化任务执行具有工业需求。

第三,从未来发展看,多智能体协同合作在物流、建筑、工厂等领域具备较为明显的需求。

而在这种领域中,无人机作为“上帝视角”的具身智能体,适合作为中央节点的领导者进行任务的分配,其他机器人可看作无人机的执行器的一环,所以这一研究也具有未来的发展前景。

团队使用airgen的仿真器进行了模拟实验,并同时选择了DRL等方式作为对照组。以下是实验结果:

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

在野外火灾搜救的情景中,AeroAgent在标准化分数下获得了100分的优异成绩,平均每步为2.04分

而单纯调用LLM或基于DRL的智能体都只获得了29.4分,平均每步0.2,不足AeroAgent的十分之一。

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

需要重写的内容是:△4-1号图,山火救援现场

在着陆任务中,AeroAgent也以97.4的总分和48.7的每步平均分超过了其他模型。

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

需要被改写的内容是:△图4-2 海上机坪着陆场景

而在风机巡检的测试中,AeroAgent直接成为了唯一能完成该任务的模型。

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

△图4-3 风力电机巡检场景

在导航任务上,AeroAgent 4.44每个步骤的分数分别为DRL和纯LLM的40倍和近10倍

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

需要重新写的内容是:△图4-4 Airgen仿真实验

团队还在真实场景中进行了无人机系统的测试,以一个简单的受困群众引导实验为例进行了案例研究。

新标题:北航团队提出具身智能新架构,实现大型无人机的操控

需要进行改写的内容是:△ 图5 引导受困群众案例实验

团队目前正以这一工作为基础,在某高原牦牛牧场进行无人放牧智能无人机的实验,探索其实际应用的可能性,并将以“予智能以具身”为目标,进行其他机器人/多机器人合作的智能体落地应用探索。

论文地址:https://arxiv.org/abs/2311.15033

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 AI 模型
相关文章 更多
AI重构企业业务架构:超聚变“智企”范式核心解析
AI重构企业业务架构:超聚变“智企”范式核心解析

本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

习惯Office转WPS要多久?双生态兼容与无缝切换指南
习惯Office转WPS要多久?双生态兼容与无缝切换指南

从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

专家:AI聊天不能越界成“精神依赖”|科技观察
专家:AI聊天不能越界成“精神依赖”|科技观察

加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

报告:背负技术债的企业更难从 AI 应用中获益
报告:背负技术债的企业更难从 AI 应用中获益

Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

微软称保守假设下,典型AI查询耗水量少于1滴水
微软称保守假设下,典型AI查询耗水量少于1滴水

据微软引用《Joule》期刊的一项研究指出,每一次典型人工智能查询耗电量零点一六至零点六零瓦时,其冷却用水量中位数不足一滴水。大规模部署下,单位查询的效率会更高,总能耗可以降低一半以上。

A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长
A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长

A股PCB概念板块掀起涨停潮,因摩根士丹利报告预测AI光模块PCB市场三年增长超5倍,2025至2028年规模从6.2亿美元增至37.7亿美元,年复合增速高达83%,远超光模块整体增速。

从单车到智能终端:哈啰升级如何打开物理AI城市落地新可能?
从单车到智能终端:哈啰升级如何打开物理AI城市落地新可能?

哈啰推出的A70云朵共享单车搭载海思芯片与鸿蒙系统,实现200毫秒极速开锁;追风者自动变速车客单价提升30%,用户复购率超40%。技术升级使运维成本占比降至25%,日均使用频次升至4.8次,分层运营策略有效分摊成本,推动共享单车从交通工具向智能终端转型。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。