Transformers+世界模型，竟能拯救深度强化学习？
很多人都知道，当年打败李世石、柯洁等一众国际顶尖棋手的AlphaGo一共迭代了三个版本，分别是战胜李世石的一代目AlphaGoLee、战胜柯洁的二代目AlphaGoMaster，以及吊打前两代的三代目AlphaGoZero。AlphaGo的棋艺能够逐代递增，背后其实是在AI技术上一个出现了明显的变化趋势，就是强化学习的比重越来越大。到了近几年，强化学习又发生了一次「进化」，人们把「进化」后的强化学习，称为深度强化学习。但深度强化学习代理的样本效率低下，这极大地限制了它们在实际问题中的应用。最近，许
很多人都知道，当年打败李世石、柯洁等一众国际顶尖棋手的AlphaGo一共迭代了三个版本，分别是战胜李世石的一代目AlphaGo Lee、战胜柯洁的二代目AlphaGo Master，以及吊打前两代的三代目AlphaGo Zero。
AlphaGo的棋艺能够逐代递增，背后其实是在AI技术上一个出现了明显的变化趋势，就是强化学习的比重越来越大。
到了近几年，强化学习又发生了一次「进化」，人们把「进化」后的强化学习，称为深度强化学习。
但深度强化学习代理的样本效率低下，这极大地限制了它们在实际问题中的应用。
最近，许多基于模型的方法被设计来解决这个问题，在世界模型的想象中学习是最突出的方法之一。
然而，虽然与模拟环境几乎无限的交互听起来很吸引人，但世界模型必须在很长一段时间内保持准确。
受Transformer在序列建模任务中的成功启发，康奈尔大学的文森特·米凯利、埃洛伊·阿隆索、弗朗索瓦·弗勒雷介绍了IRIS，这是一种数据高效代理，它在由离散自编码器和自回归Transformer组成的世界模型中学习。
在Atari 100k基准测试中，在仅相当于两个小时的游戏时间里，IRIS的平均人类标准化得分为1.046，并且在26场比赛中的10场比赛中表现优于人类。
此前，LeCun曾说，强化学习会走进死胡同。
现在看来，康奈尔大学的文森特·米凯利、埃洛伊·阿隆索、弗朗索瓦·弗勒雷等人，正在将世界模型与强化学习（更准确地说是深度强化学习）融为一体，而连接两者的桥梁，便是Transformers。
深度强化学习有什么不一样
一提到人工智能技术，很多人能想到的，还是深度学习上。
其实，虽然深度学习还活跃在AI领域，但已经暴露出很多问题。
现在深度学习用得最多的就是有监督学习。有监督学习不妨理解成“有参考答案的学习”，它有一个特点，就是数据必须经过标识才能用于训练。但现在海量的数据是未标识数据，且标识成本很高。
以至于针对这种局面，有人调侃道「有多少人工，就有多少智能」。
很多研究人员，甚至包括有不少的大牛都在反思，琢磨深度学习是不是“错了”。
于是，强化学习开始崛起了。
强化学习和有监督学习、无监督学习都不太一样，它是用智能体不断地试错，并按试错结果奖惩AI。这是DeepMind家做各种棋牌AI、游戏AI的路数。这种路径的信徒认为，只要奖励激励设定对头，强化学习终将造出真正AGI。
但强化学习也有问题，用LeCun的话说，就是「强化学习要用巨量数据才能训练模型执行最简单任务」。
于是强化学习与深度学习进行了结合，成为深度强化学习。
深度强化学习，强化学习是骨架，深度学习是灵魂，这是什么意思呢？深度强化学习的主要运行机制，其实与强化学习是基本一致的，只不过使用了深度神经网络来完成这一过程。
更有甚者，有的深度强化学习算法，干脆直接在现成的强化学习算法上，通过添加深度神经网络来实现一套新的深度强化学习算法，非常有名的深度强化学习算法DQN就是典型的例子。
Transformers有什么神奇之处
Transformers首次亮相于2017年，是Google的论文《Attention is All You Need》中提出的。
在 Transformer出现之前，人工智能在语言任务上的进展一直落后于其他领域的发展。「在过去10年发生的这场深度学习革命中，自然语言处理在某种程度上是后来者，」马萨诸塞大学洛厄尔分校的计算机科学家Anna Rumshisky 说，「从某种意义上说，NLP曾落后于计算机视觉，而Transformer改变了这一点。」
近年来，Transformer机器学习模型已经成为深度学习和深度神经网络技术进步的主要亮点之一。它主要用于自然语言处理中的高级应用。谷歌正在使用它来增强其搜索引擎结果。
Transformer很快成为专注于分析和预测文本的单词识别等应用程序的引领者。它引发了一波工具浪潮，比如OpenAI的GPT-3可以在数千亿个单词上进行训练并生成连贯的新文本。
目前，Transformer架构不断发展并扩展到多种不同的变体，从语言任务扩展到其他领域。比如，Transformer已被用于时间序列预测，同时也是DeepMind的蛋白质结构预测模型 AlphaFold背后的关键创新。
Transformer最近也进入了计算机视觉领域，在许多复杂任务中它们正在慢慢取代卷积神经网络(CNN)。
世界模型与Transformers联手，其他人怎么看
对于康奈尔大学的研究成果，有外国网友评论道：「请注意，这两个小时是来自环境的镜头长度，在GPU上进行训练需要一周的时间」。
还有人质疑：所以这个系统在一个特别精确的潜在世界模型上学习？该模型不需要预先训练吗？
另外，有人觉得，康奈尔大学的文森特·米凯利等人的成果并没有破天荒的突破：「似乎他们只是训练了世界模型，vqvae和演员评论家，所有这些都来自那2个小时的经验（和大约600个纪元）的重播缓冲区」。
参考资料：https://www.reddit.com/r/MachineLearning/comments/x4e4jx/r_transformers_are_sample_efficient_world_models/
探索3ds Max必备插件库，涵盖森林植被、铁路克隆、粒子系统及渲染优化工具，通过实操步骤展示如何提升三维制作效率。
CreateAI联合中科院自动化所推出NeoVerse4D世界模型，融合扩散模型与4D高斯溅射，基于百万段单目视频训练，30秒即可构建通用型4D世界。该模型实现“重建→生成→再重建”闭环，支持4D场景重建、自由漫游、视角生成、视频编辑及点云跟踪，适用影视、具身智能、自动驾驶等领域，并集成蒸馏LoRAs，可在消费级显卡上端到端推理。
逆矩阵科技完成超亿美元种子++轮融资，由经纬创投、蚂蚁集团等投资。资金将用于通用世界基座模型预训练及规模化训练。公司由北大青年学者陈博远、吉嘉铭创立，已发布全球首个通用世界基座模型悟界·Physis-v0.1。
物理AI依赖的世界模型面临概念定义混乱、真实物理数据稀缺及技术路线分歧等困境，导致模型构建困难。业界预计未来三到五年将持续迭代，从像素模拟走向因果推理仍是根本挑战。
世界模型是今年具身智能领域最热的方向，但各家对它的理解并不一致。最近一次媒体沟通会上，大晓机器人展示了开悟3.1世界模型，以及基于它落地的行业解决方案。整场听下来，能明显感觉到世界模型正在从技术概念变成能商用的产品。（ID：leitech）也参加了这场沟通会。按照大晓世界模型负责人王飞的说法，世界模
影身智能凭借原生4D基座世界模型，在制鞋产线实现规模化落地，跑通数据生成、模型训练、场景部署与反馈迭代的自进化闭环。该模型融合渲染、仿真、规划三大能力，以高维4D数据驱动物理理解与泛化，获得数亿元柔性智造订单，标志着世界模型跨入工业量产阶段。
一眸科技聚焦情感与认知AI，源自北大实验室，构建人类身心情智维度专属世界模型。其跨学科团队融合AI、心理学等领域，实现精细表情识别与无接触视觉心率检测等多模态感知突破，推动人工智能从感知迈向认知与情感。
世界模型这个概念，现在在AI圈火得不行，但也经常被拿来乱用。无论是视频生成还是机器人领域，似乎都在往“世界模型”这个筐里装东西。可问题是，它到底是什么？应该预测什么？怎么造？圈子里其实没什么共识。正好，上海AI Lab团队最近发了一篇综述，算是把这个概念好好梳理了一遍。他们对世界模型进行了科学定义，
灵光App升级世界模型功能，接入蚂蚁灵波LingBot-World2.0，用户上传一张图片即可在手机端生成可自由漫步且支持施法、射箭等交互操作的沉浸式3D世界。新版实现720P高清画质、30帧以上流畅运行，响应延迟低至百毫秒级。
灵光App升级世界模型2.0，接入LingBot-World2.0，手机上传图片即可生成可战斗互动的3D世界，支持攻击、射箭等操作并实时反馈。技术实现720P高清、30帧流畅运行、百毫秒级响应，Agent驱动场景持续演化，无需技术背景即可体验。
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
