当前位置:

首页 > 硬件相关 > 7.31学术速递:今日学术新知

7.31学术速递:今日学术新知

适应还是不适应?语义分割的实时适应(ICCV2023)标题:适应还是不适应?语义分割的实时适应作者:MarcBotetColomer,PierLuigiDovesi,TheodorosPanagiotakopoulos,JoaoFredericoCarvalho,LinusHärenstam-Nielsen,HosseinAzizpour,HedvigKjellström,DanielCremers,MatteoPoggi文章链接:https://arxiv.or

  1. 适应还是不适应?语义分割的实时适应(ICCV 2023)

每日学术速递7.31标题:适应还是不适应?语义分割的实时适应

作者:Marc Botet Colomer, Pier Luigi Dovesi, Theodoros Panagiotakopoulos, Joao Frederico Carvalho, Linus Härenstam-Nielsen, Hossein Azizpour, Hedvig Kjellström, Daniel Cremers, Matteo Poggi

文章链接:https://arxiv.org/abs/2307.15063

项目代码:https://marcbotet.github.io/hamlet-web/

每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31摘要:

在线域适应在语义分割中的目标是应对部署过程中出现的不可预测的域变化,例如突如其来的天气事件。然而,暴力适应的高计算成本使得这种方法在现实世界的应用中不可行。本文提出了 HAMLET,一种针对实时域适应的硬件感知模块化最便宜训练框架。我们的方法包括一个硬件感知的反向传播编排代理(HAMT)和一个专用的域转移检测器,可以主动控制模型何时以及如何进行调整(LT)。得益于这些创新,我们的方法能够在单个消费级 GPU 上以超过 29FPS 的速度执行语义分割并进行调整。我们的框架在 OnDA 和 SHIFT 基准上的实验结果展示了令人鼓舞的准确性和速度平衡。

主题:cs.RO

  1. 放大和缩小:语言引导的机器人技能习得

每日学术速递7.31标题:放大和缩小:语言引导的机器人技能习得

作者:Huy Ha, Pete Florence, Shuran Song

文章链接:https://arxiv.org/abs/2307.14535

项目代码:https://www.cs.columbia.edu/~huy/scalingup/

每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31摘要:

我们提出了一个机器人技能获取框架,该框架1)有效地扩大了语言标记机器人数据的数据生成,2)有效地将这些数据提炼成强大的多任务语言条件视觉运动策略。对于(1),我们使用大型语言模型(LLM)来指导高级规划,并使用基于采样的机器人规划器(例如运动或抓取采样器)来生成多样化且丰富的操作轨迹。为了增强此数据收集过程,LLM 还推断每个任务成功条件的代码片段,同时使数据收集过程能够检测失败和重试,并自动标记成功/失败的轨迹。对于(2),我们将扩散策略单任务行为克隆方法扩展到具有语言调节的多任务设置。最后,我们提出了一个新的多任务基准,包含跨五个领域的 18 项任务,以测试长期行为、常识推理、工具使用和直观物理。我们发现,我们的精炼策略成功地学习了数据收集策略中稳健的重试行为,同时将五个域的绝对成功率平均提高了 34.8%。

主题:cs.CL

  1. 将 TransNormer 扩展到 1750 亿个参数(上海 AI 实验室)

标题:将 TransNormer 扩展到 1750 亿个参数

作者:Zhen Qin, Dong Li, Weigao Sun, Weixuan Sun, Xuyang Shen, Xiaodong Han, Yunshen Wei, Baohong Lv, Fei Yuan, Xiao Luo, Yu Qiao, Yiran Zhong

文章链接:https://arxiv.org/abs/2307.14995

项目代码:https://github.com/OpenNLPLab/TransnormerLLM

每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31每日学术速递7.31摘要:

我们提出了 TransNormerLLM,这是第一个基于线性注意力的大语言模型 (LLM),它在准确性和效率上都优于传统的基于 softmax 注意力的模型。TransNormerLLM 从之前的线性注意力架构 TransNormer 演变而来,进行了高级修改,包括位置嵌入、线性注意力加速、门控机制、张量归一化、推理加速和稳定性。具体来说,我们将 LRPE 与指数衰减结合使用,以避免注意力稀释问题,同时允许模型保留令牌之间的全局交互。此外,我们提出了闪电注意力(Lightning Attention),这是一种尖端技术,可以在运行时将线性注意力加速两倍以上,并将内存使用量减少四倍。为了进一步增强 TransNormer 的性能,我们利用门控机制来平滑训练,并利用新的张量归一化方案来加速模型,从而获得超过 20% 的令人印象深刻的加速。此外,我们开发了一种强大的推理算法,无论序列长度如何,都能确保数值稳定性和一致的推理速度,从而在训练和推理阶段展现出卓越的效率。可扩展性是我们模型设计的核心,可以在大规模集群上实现无缝部署,并促进扩展到更广泛的模型,同时保持出色的性能指标。我们的模型设计是通过对我们自收集的语料库进行一系列综合实验来实现的,该语料库的大小超过 6TB,包含超过 2 万亿个代币。为了确保数据质量和相关性,我们实施了新的自我清理策略来过滤收集的数据。我们将发布预先训练的模型,以促进高效 LLM 社区的进步。

推荐阅读每日学术速递7.30

2023-07-30

每日学术速递7.31每日学术速递7.29

2023-07-29

每日学术速递7.31这次来真的?室温常压超导全球复现一文速览

2023-07-28

每日学术速递7.31

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
硬件相关 机器人
相关文章 更多
荣耀MagicOS 11发布计划与Agent Harness架构解析
荣耀MagicOS 11发布计划与Agent Harness架构解析

荣耀MagicOS 11定于9月15日发布,作为行业首个商用系统级Agent Harness架构的操作系统,Magic 9系列将首发搭载。新版YOYO支持最长上百步长程任务及40余项条件触发,10月开启Beta预览版招募。

华强北手机全线涨价:涨幅400-1500元,存储成本推高售价
华强北手机全线涨价:涨幅400-1500元,存储成本推高售价

华强北销售商反馈,年初以来主流手机品牌基本全线涨价,涨幅最低400元,最高达1000-1500元。涨价主因是全球存储芯片及电容等元器件成本上升,运行内存与机身存储价格涨幅超100%。尽管整体市场承压,国产折叠屏手机1-8月销量约450万台(新形态超135万台,同比增29%),AI手机成为厂商发力重点。

索尼WH-1000XM4C发布:复刻经典折叠设计并升级现代接口
索尼WH-1000XM4C发布:复刻经典折叠设计并升级现代接口

索尼发布WH-1000XM4C头戴式降噪耳机,复刻了XM4的经典四向折叠便携设计。该机型在保留QN1处理器和30小时续航的基础上,全面升级了USB-C高速充电、无损音频直连、蓝牙多点连接及AI降噪通话功能,旨在满足对便携性有极高要求的用户群体。

OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析
OpenAI GPT-6 Astra 自主通关《传送门》:技术原理与实验成本解析

OpenAI GPT-6 Astra 模型通过 MCP 协议与 SourcePauseTool 控制《传送门》游戏,完成 3336 次工具调用并自主通关。实验耗时约 24 小时,API 成本约 571 美元,展示了多模态 AI 在 3D 解谜领域的突破性进展。

AI重构企业业务架构:超聚变“智企”范式核心解析
AI重构企业业务架构:超聚变“智企”范式核心解析

本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

贵州省住建厅与贝壳集团签署旅居战略合作:五大维度落地方案解析
贵州省住建厅与贝壳集团签署旅居战略合作:五大维度落地方案解析

9月3日,贵州省住建厅与贝壳集团在贵阳签署《旅居产业发展战略合作框架协议》,旨在打造全国旅居样板。合作涵盖平台建设、标准共建、人才培育、存量资产盘活及品牌推广五大维度,依托贝壳近600家门店及4000余名经纪人资源,强化贵州旅居服务供给,促进房地产市场平稳健康发展。

上海链家安住APP:业主主动卖房功能与成交数据解析
上海链家安住APP:业主主动卖房功能与成交数据解析

本文解析上海链家推出的“安住APP”功能,该工具允许业主在贝壳/链家挂牌后主动管理房源。通过实时查看销售进展、发送看房邀约及获取AI策略,业主可缩短成交周期。数据显示试点期间平均成交7天,最短1天。适用于希望提高信息透明度、主动参与卖房过程的业主。

打破流量垄断,让平台经济释放普惠红利
打破流量垄断,让平台经济释放普惠红利

2026年6月工信部等七部门印发《促进平台经济大中小企业协同发展行动方案》,明确平台经济是数字技术赋能的实体经济。针对流量垄断与“数字租金”问题,专家主张治理重心应从静态整改转向推动平台能力向中小企业外溢,通过算法透明、接口开放及数据可迁移,打破封闭生态,实现创新与规范并重的高质量发展。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。