当前位置:

首页 > 业界资讯 > 文字顺序不影响GPT-4阅读理解,别的大模型都不行

文字顺序不影响GPT-4阅读理解,别的大模型都不行

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

研表究明,汉字序顺并不定一影阅响读(对于英文来说,则是每一个单词中的字母顺序)。现在,日本东京大学的一项实验发现,这个“定理”居然也适合GPT-4。比如面对这样一段“鬼画符”,几乎里面每一个单词的每一个字母都被打乱:在2023年,梅特斯队将于8月31日在洛杉矶的高地球场举行首场比赛但GPT-4居然完美地恢复出了原始句子(红框部分):原来是一个叫做JonRahm的人赢得了2023年美国大师赛(高尔夫)的故事。并且,如果你直接就这段乱码对GPT-4进行提问,它也能先理解再给出正确答案,一点儿也不影响阅读:对此

本文目录

    研表究明,汉字序顺并不定一影阅响读(对于英文来说,则是每一个单词中的字母顺序)。

    现在,日本东京大学的一项实验发现,这个“定理”居然也适合GPT-4。

    比如面对这样一段“鬼画符”,几乎里面每一个单词的每一个字母都被打乱:

    在2023年,梅特斯队将于8月31日在洛杉矶的高地球场举行首场比赛

    但GPT-4居然完美地恢复出了原始句子(红框部分):

    文字顺序不影响GPT-4阅读理解,别的大模型都不行

    原来是一个叫做Jon Rahm的人赢得了2023年美国大师赛(高尔夫)的故事。 

    并且,如果你直接就这段乱码对GPT-4进行提问,它也能先理解再给出正确答案,一点儿也不影响阅读:

    文字顺序不影响GPT-4阅读理解,别的大模型都不行

    对此,研究人员感到非常吃惊:

    按理说乱码单词会对模型的tokenization处理造成严重干扰,GPT-4居然和人类一样不受影响,这有点违反直觉啊。

    值得一提的是,这项实验也测试了其他大模型,但它们全都挑战失败——有且仅有GPT-4成功。

    需要重写的内容是:具体怎么说?

    文字顺序不影响GPT-4阅读

    为了检验大型模型对文字错乱干扰的抗性能力,作者创建了一个专门的测试基准:Scrambled Bench

    它共包含两类任务:

    一是加扰句子恢复(ScrRec),即测试大模型恢复乱序句子的能力。

    它的量化指标包括一个叫做恢复率(RR)的东西,可以简单理解为大模型恢复单词的比例。

    二是加扰问答(ScrQA),测量大模型在上下文材料中的单词被打乱时正确理解并回答问题的能力。

    由于每个模型本身的能力并不相同,我们不好直接用准确性来评估这一项任务,因此作者在此采用了一个叫做相对性能增益(RPG)的量化指标。

    具体测试素材则选自三个数据库:

    需要被改写的内容是:一个是RealtimeQA,每周发布一些当前LLM不太可能知道的最新消息;

    第二个是DREAM(Sun et al.,2019),一个基于对话的多项选择阅读综合数据集;

    AQuARAT是一个数学问题数据集,需要通过多步推理来解决

    对于每个数据集,作者从中挑出题目,并进行不同程度和类型的干扰,包括:
    1、随机加扰(RS),即对每一个句子,随机选择一定比例(20%、50%、100%)的单词,对这些单词中的所有字母进行打乱(数字不变)。

    2、保持每个单词的第一个字母不变,剩下的随意排列(KF)。

    3、保持每个单词的首字母和最后一个字母不变,剩下的随机打乱(KFL)。

    参与测试的模型有很多,文章正文主要报告了以下几个:

    text-davinci-003、GPT-3.5-turbo、GPT-4、Falcon-180b和Llama-2-70b。

    首先来看不同干扰类型的影响。

    请参考下图:

    在KFL设置中(即首尾字母不变),不管是加扰句子恢复还是加扰问答任务,模型之间的性能差距都不大。

    然而,随着干扰难度越来越高(变为KF和RS后),模型的性能都迎来显著下降——除了GPT-4。

    具体而言,在加扰句子恢复(ScrRec)任务中,GPT-4的恢复率始终高于95%,在加扰问答(ScrQA)任务中,GPT-4的相对准确性也都始终维在85%-90%左右。

    与此相比,其他模型的表现都不及20%

    文字顺序不影响GPT-4阅读理解,别的大模型都不行

    其次是不同加扰率的影响。

    如下图所示,可以看到,在加扰句子恢复(ScrRec)任务中,随着一个句子中被干扰的单词数量越来越多,直至100%之后,只有GPT-3.5-turbo和GPT-4的性能没有显著变化,当然,GPT-4还是比GPT-3.5优先了很大一截。

    文字顺序不影响GPT-4阅读理解,别的大模型都不行

    而在加扰问答(ScrQA)任务中,随着句子中被打乱的单词数量越来越多,所有模型性能都出现了都显著下降,且差距越来越大。

    然而,在这些模型中,GPT-4保持着遥遥领先,其表现达到了87.8%,而且下降的幅度也是最小的

    所以简单总结来说就是:

    大多数模型都可以处理一定比例的干扰文本,但到极端程度时(比如单词全部打乱),就只有GPT-4表现最好,只有GPT-4面对完全混乱的词序,几乎不怎么被影响。

    GPT-4还擅长分词

    在文章结尾处,作者强调:

    除了打乱单词字母顺序之外,还可以研究插入字母、替换字母等情况的影响。

    唯一的问题是,由于GPT-4为闭源,大家也不好调查为什么GPT-4可以不被词序影响。

    有网友发现,除了本文所证明的情况,GPT-4也非常擅长将下面这一段完全连起来的英文:

    UNDERNEATHTHEGAZEOFORIONSBELTWHERETHESEAOFTRA
    NQUILITYMEETSTHEEDGEOFTWILIGHTLIESAHIDDENTROV
    EOFWISDOMFORGOTTENBYMANYCOVETEDBYTHOSEINTHEKN
    OWITHOLDSTHEKEYSTOUNTOLDPOWER

    正确分隔开来:

    猎户座的腰带之下,宁静之海与黄昏的边缘相遇之处,隐藏着一宝藏智慧,被许多人遗忘,但被内行人渴望。它拥有无尽力量的钥匙

    按理来说,这种分词操作是一件很麻烦的事儿,通常需要动态编程等操作。

    GPT-4表现出来的能力再次让这位网友感到惊讶。

    他还把这段内容放进了OpenA官方的tokenizer工具,发现GPT-4看到的token其实是这样的:

    UNDER NE AT HT HE GA Z EOF OR ION SB EL TW HER ET HE SEA OF TRA

    除了“UNDER”、“SEA”和“OF”之外,几乎所有的token都看起来“毫无逻辑”,这进一步增加了人们的困惑

    文字顺序不影响GPT-4阅读理解,别的大模型都不行

    大家对此有何看法?

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 AI
    相关文章 更多
    AI重构企业业务架构:超聚变“智企”范式核心解析
    AI重构企业业务架构:超聚变“智企”范式核心解析

    本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

    微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

    习惯Office转WPS要多久?双生态兼容与无缝切换指南
    习惯Office转WPS要多久?双生态兼容与无缝切换指南

    从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

    专家:AI聊天不能越界成“精神依赖”|科技观察
    专家:AI聊天不能越界成“精神依赖”|科技观察

    加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

    2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

    全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

    报告:背负技术债的企业更难从 AI 应用中获益
    报告:背负技术债的企业更难从 AI 应用中获益

    Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

    微软称保守假设下,典型AI查询耗水量少于1滴水
    微软称保守假设下,典型AI查询耗水量少于1滴水

    据微软引用《Joule》期刊的一项研究指出,每一次典型人工智能查询耗电量零点一六至零点六零瓦时,其冷却用水量中位数不足一滴水。大规模部署下,单位查询的效率会更高,总能耗可以降低一半以上。

    A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长
    A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长

    A股PCB概念板块掀起涨停潮,因摩根士丹利报告预测AI光模块PCB市场三年增长超5倍,2025至2028年规模从6.2亿美元增至37.7亿美元,年复合增速高达83%,远超光模块整体增速。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?