当前位置:

首页 > 业界资讯 > 4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

只有4k窗口长度的大模型,也能阅读大段文本了!普林斯顿的华人博士生的一项最新成果,成功“突破”了大模型窗口长度的限制。不仅能回答各种问题,而且整个实现的过程全靠prompt就能完成,不需要任何的额外训练。研究团队创建了一种名为MemWalker的树形记忆策略,可以突破模型本身的窗口长度限制。测试过程中,模型阅读的最长文本包含了1.2万+token,成绩相比LongChat大幅提高。相比于相似的TreeIndex,MemWalker可以进行推理并回答任何问题,而不是只做概括。MemWalker的研发利用到了

本文目录

    只有4k窗口长度的大模型,也能阅读大段文本了!

    普林斯顿的华人博士生的一项最新成果,成功“突破”了大模型窗口长度的限制。

    不仅能回答各种问题,而且整个实现的过程全靠prompt就能完成,不需要任何的额外训练。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    研究团队创建了一种名为MemWalker的树形记忆策略,可以突破模型本身的窗口长度限制。

    测试过程中,模型阅读的最长文本包含了1.2万+token,成绩相比LongChat大幅提高。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    相比于相似的TreeIndex,MemWalker可以进行推理并回答任何问题,而不是只做概括。

    MemWalker的研发利用到了“分而治之”的思想,就此有网友这样评论:

    每次我们让大模型的思考过程更像人类,它们的表现就会越好

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    那么,具体什么是树形记忆策略,又是如何用有限的窗口长度阅读长文本的呢?

    一个窗口不够,就多开几个

    模型上,MemWalker使用Stable Beluga 2作为基本模型,它是Llama 2-70B经过指令调优得到的。

    在选择该模型之前,开发者对比了其与原始Llama 2的表现,并最终确定选用。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    就像MemWalker这个名字一样,它的工作过程就像记忆流在行走。

    具体来看,大致分为记忆树构建和导航检索两个阶段。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    构建记忆树时,长文本会被分割成多个小段(seg1-6),并由大模型分别针对每一段做出总结,得到“叶子节点”(leaf nodes,summ1-6)。

    分割时,每段的长度越长,层级就会越少,有利于后续检索,但其本身过长又会导致准确度下降,因此需要综合考虑确定每段长度。

    作者认为,每一段合理的长度是500-2000token,而实验中使用的为1000token。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    然后,模型递归地对这些叶子节点的内容再次进行总结,形成“非叶节点”(non-leaf nodes,summ7-8)。

    二者的另一个区别是,叶子节点包含了原始信息,非叶节点只有概括得到的二级信息。

    作用上,非叶节点用于导航定位答案所在的叶子节点,而叶子节点则用于推理出答案。

    其中的非叶节点可以有多个层级,模型逐步进行总结概括,直到得到“根节点”,形成完整的树形结构。

    记忆树建立完毕后,就可以进入导航检索阶段来生成答案了。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    这一过程中,模型从根节点开始,逐一读取下一级子节点的内容,然后推理出应该进入这个节点还是返回。

    决定进入这个节点之后,再次重复这样的过程,直到读取到叶节点。如果叶节点的内容合适则生成答案,否则返回。

    为了确保答案的完整性,这个过程的结束条件并非发现了一个合适的叶节点,而是模型认为得到了完整答案,或者达到最大步数。

    导航过程中,如果模型发现进入了错误的路径,还可以导航回退。

    此外,MemWalker中还引入了工作记忆机制来来提高准确度。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    该机制会将已经访问过的节点内容加入到当前内容的上下文中。

    当模型进入一个新节点时,当前节点内容都会被加入到记忆中。

    这一机制让模型在每一步都可以利用访问过的节点内容,避免重要信息的丢失。

    实验结果显示,工作记忆机制可以将MemWalker的准确率提升10%左右。

    而且,上面所说的过程只依靠prompt就能完成,不需要进行额外的训练。

    4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

    理论上,只要有足够的算力,MemWalker可以阅读无限长的文本。

    不过,记忆树构建时的时间和空间复杂度随着文本长度的增长是呈指数型的。

    作者简介

    论文第一作者是普林斯顿大学NLP实验室华人博士生Howard Chen。

    清华姚班校友陈丹琦是Howard的导师,她今年在ACL上的学术报告也与搜索有关。

    这项成果是Howard在Meta实习期间完成的,Meta AI实验室的Ramakanth Pasunuru,Jason Weston和Asli Celikyilmaz三位学者也参与了本项目。

    论文地址:https://arxiv.org/abs/2310.05029

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 AI
    相关文章 更多
    AI重构企业业务架构:超聚变“智企”范式核心解析
    AI重构企业业务架构:超聚变“智企”范式核心解析

    本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

    微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

    习惯Office转WPS要多久?双生态兼容与无缝切换指南
    习惯Office转WPS要多久?双生态兼容与无缝切换指南

    从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

    专家:AI聊天不能越界成“精神依赖”|科技观察
    专家:AI聊天不能越界成“精神依赖”|科技观察

    加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

    2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

    全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

    报告:背负技术债的企业更难从 AI 应用中获益
    报告:背负技术债的企业更难从 AI 应用中获益

    Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

    微软称保守假设下,典型AI查询耗水量少于1滴水
    微软称保守假设下,典型AI查询耗水量少于1滴水

    据微软引用《Joule》期刊的一项研究指出,每一次典型人工智能查询耗电量零点一六至零点六零瓦时,其冷却用水量中位数不足一滴水。大规模部署下,单位查询的效率会更高,总能耗可以降低一半以上。

    A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长
    A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长

    A股PCB概念板块掀起涨停潮,因摩根士丹利报告预测AI光模块PCB市场三年增长超5倍,2025至2028年规模从6.2亿美元增至37.7亿美元,年复合增速高达83%,远超光模块整体增速。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?