当前位置:

首页 > 业界资讯 > 首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

本文经自动驾驶之心公众号授权转载,转载请联系出处。【RenderOcc,首篇仅使用2D标签训练多视图3D占用模型的新范式】作者从多视图图像中提取NeRF风格的3D体积表示,并使用体积渲染技术来建立2D重建,从而实现从2D语义和深度标签的直接3D监督,减少了对昂贵的3D占用标注的依赖。大量实验表明,RenderOcc的性能与使用3D标签完全监督的模型相当,突显了这种方法在现实世界应用中的重要性。已开源。题目:RenderOcc:Vision-Centric3DOccupancyPredictionwith2

本文经自动驾驶之心公众号授权转载,转载请联系出处。

【RenderOcc,首篇仅使用2D标签训练多视图3D占用模型的新范式】作者从多视图图像中提取NeRF风格的3D体积表示,并使用体积渲染技术来建立2D重建,从而实现从2D语义和深度标签的直接3D监督,减少了对昂贵的3D占用标注的依赖。大量实验表明,RenderOcc的性能与使用3D标签完全监督的模型相当,突显了这种方法在现实世界应用中的重要性。已开源。

题目: RenderOcc: Vision-Centric 3D Occupancy Prediction with 2DRendering Supervision

作者单位: 北京大学,小米汽车,港中文MMLAB

需要重写的内容是:开源地址:GitHub - pmj110119/RenderOcc

3D占用预测在机器人感知和自动驾驶领域具有重要前景,它将3D场景量化为带有语义标签的网格单元。最近的工作主要利用3D体素空间中的完整占用标签进行监督。然而,昂贵的标注过程和有时模糊的标签严重限制了3D占用模型的可用性和可扩展性。为了解决这个问题,作者提出了RenderOcc,这是一种仅使用2D标签训练3D占用模型的新范式。具体而言,作者从多视图图像中提取NeRF风格的3D体积表示,并使用体积渲染技术来建立2D重建,从而实现从2D语义和深度标签的直接3D监督。此外,作者引入了一种辅助光线方法来解决自动驾驶场景中的稀疏视点问题,该方法利用顺序帧为每个目标构建全面的2D渲染。RenderOcc是第一次尝试仅使用2D标签来训练多视图3D占用模型,从而减少了对昂贵的3D占用标注的依赖。大量实验表明,RenderOcc的性能与使用3D标签完全监督的模型相当,突显了这种方法在现实世界应用中的重要性。

网络结构:

首篇仅使用2D标签训练多视图3D占用模型的新范式

图1展示了RenderOcc的一种新的训练方法。与以往依赖昂贵的3D占用标签进行监督的方法不同,本文提出的RenderOcc利用2D标签来训练3D占用网络。通过2D渲染监督,该模型能够受益于细粒度的2D像素级语义和深度监督

首篇仅使用2D标签训练多视图3D占用模型的新范式

图2.RenderOcc的总体框架。本文通过2D到3D网络提取体积特征并预测每个体素的密度和语义。因此,本文生成了语义密度场(Semantic Density Field),它可以执行体积渲染来生成渲染的2D语义和深度。对于Rays GT的生成,本文从相邻帧中提取辅助光线来补充当前帧的光线,并使用所提出的加权光线采样策略来净化它们。然后,本文用光线GT和{}计算损失,实现2D标签的渲染监督

首篇仅使用2D标签训练多视图3D占用模型的新范式

重写后的内容:图3。辅助光线:单帧图像无法很好地捕捉物体的多视图信息。相邻相机之间只有很小的重叠区域,视角差异有限。通过引入来自相邻帧的辅助光线,该模型可以显著受益于多视图一致性约束

实验结果:

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

需要进行改写的内容是:原文链接:https://mp.weixin.qq.com/s/WzI8mGoIOTOdL8irXrbSPQ

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 模型 3D
相关文章 更多
宏碁推出裸眼 3D 显示器“掠夺者 XB273K 3D”:搭 27 英寸 4K 180Hz 面板 + 双扬 7499 元
宏碁推出裸眼 3D 显示器“掠夺者 XB273K 3D”:搭 27 英寸 4K 180Hz 面板 + 双扬 7499 元

宏碁推出掠夺者XBK273K3D裸眼3D显示器,搭载27英寸4K180HzFastIPS面板,配合3D立体光学透镜与眼动追踪摄像头,可将2D内容转为3D画面,支持3D模型渲染及游戏裸眼3D化,定价7499元,接口齐全并支持KVM。该显示器兼顾高刷新率与裸眼3D体验,适合设计、游戏等多场景。

CSS3实现动态翻牌效果 仿百度贴吧3D翻牌一次动画特效
CSS3实现动态翻牌效果 仿百度贴吧3D翻牌一次动画特效

利用CSS3的perspective、transform-style和backface-visibility属性,结合rotateY变换实现3D翻牌效果。鼠标悬停时,卡片正面图片与背面文字同步旋转180度,形成流畅翻转动画,无需JavaScript,兼容性好,立体感强,适用于产品展示、名片翻页等场景。

特斯拉FSD新增滑板识别模型
特斯拉FSD新增滑板识别模型

近日,有汽车领域博主爆料,特斯拉的FSD(完全自动驾驶)辅助系统将迎来一次重要升级,或将实现更真实的环境场景还原。在最新曝光的软件代码中,发现了大量新增的渲染模型,涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人,以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息,日本方面已为特斯拉FSD系统的落地扫

阿里开源14B电影级视频模型,实测可玩
阿里开源14B电影级视频模型,实测可玩

AI视频生成正迎来属于“通义”的高光时刻!就在昨晚,阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频,就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频,效果惊艳。实际效果展示如下:△来自@AIMIRAI46487更令人振奋的是,这款新模型一经发布便全面开源,现在所有人都可以免费在通义万相官网体验使用。据官方介绍,Wan2.2-S2V的核心优势包括:支持最长分钟级的单次视频生成,画面稳定且具有一致性;具备影院级别的音

华为盘古 Ultra MoE 模型发布
华为盘古 Ultra MoE 模型发布

5月30日,华为推出了全新的AI模型——盘古UltraMoE,该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型,它在整个训练过程中完全基于华为的昇腾AI平台完成,标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如,Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入,显著改善了超大规模模型训练期间出现的梯度异常及

刷新3D生成极限,一键生成精细毛发资产
刷新3D生成极限,一键生成精细毛发资产

在3D生成技术需求持续攀升的当下,如何快速构建结构合理、几何细节丰富的三维模型,已成为AIGC与数字内容生产领域的核心难题。尽管近年来3D生成技术不断突破,精度显著提升,但大多数现有方法在效率与质量之间仍难以兼顾,尤其在高分辨率建模场景中,高昂的计算成本严重拖慢生成速度,制约了实际应用的推广。为应对这一挑战,南洋理工大学携手数美万物、西湖大学共同推出全新3D生成框架——Ultra3D。Ultra3D采用“由粗到精”的两阶段生成策略,高效实现高分辨率三维资产构建,刷新了当前3D生成质量的新高度。第一阶段利用

SOTA大模型加密数据评测:Qwen3仅破10%
SOTA大模型加密数据评测:Qwen3仅破10%

大语言模型面对加密数据,即便最新的Qwen3也会感到压力!尽管当下各类推理模型在多种基准测试中表现优异,但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域,模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链,还需要其能够精准辨识复杂加密模式中的潜在规律;成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评,使用大量真实隐私场景数据和多种密码算法,严苛挑战当前最先进的大模型。CipherBank的测评结果显示,目前的大语言模型

通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API
通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API

强化学习(RL)结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而,这一方法面临两大挑战:搜索引擎返回的文档质量不稳定,导致训练过程中的噪音和不稳定性;RL训练需要频繁部署,产生大量API开销,限制了可扩展性。针对这些问题,阿里通义实验室推出了开源解决方案ZeroSearch,这是一个无需与真实搜索引擎交互的强化学习框架。实验表明,ZeroSearch只需使用3B参数的LLM作为检索模块,就能有效提升搜索能力,并大幅节省API成本。ZeroSearch让LLM实现自给自足

Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬
Siri等明年!苹果WWDC25给AI交底:画小饼,继续熬

不求速胜,熬吧。

第二代Ameca亮相!对答如流,表情逼真,多语种交流
第二代Ameca亮相!对答如流,表情逼真,多语种交流

编辑:桃子【新智元导读】第二代Ameca升级亮相,搭载GPT-4技术,实现实时对话。人形机器人Ameca迎来了它的第二代版本!近期,在2024年世界移动通信大会(MWC)上,全球最先进的机器人Ameca再度亮相。Ameca在会场周围吸引了大量观众。通过GPT-4的增强,Ameca能够即时回应各种问题。「展示一段舞蹈吧」。当被问及是否有情感时,Ameca通过一系列逼真的面部表情作出回应。就在几天前,开发Ameca的英国机器人公司EngineeredArts展示了他们团队的最新成果。视频中,Ameca具备了

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。