当前位置:

首页 > 业界资讯 > 吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

没想到时至今日,ChatGPT竟还会犯低级错误?吴恩达大神最新开课就指出来了:ChatGPT不会反转单词!比如让它反转下lollipop这个词,输出是pilollol,完全混乱。哦豁,这确实有点大跌眼镜啊。以至于听课网友在Reddit上发帖后,立马引来大量围观,帖子热度火速冲到6k。而且这不是偶然bug,网友们发现ChatGPT确实无法完成这个任务,我们亲测结果也同样如此。△实测ChatGPT(GPT-3.5)甚至包括Bard、Bing、文心一言在内等一众产品都不行。△实测Bard△实测文心一言还有人紧跟

本文目录

    没想到时至今日,ChatGPT竟还会犯低级错误?

    吴恩达大神最新开课就指出来了:

    ChatGPT不会反转单词!

    比如让它反转下lollipop这个词,输出是pilollol,完全混乱。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    哦豁,这确实有点大跌眼镜啊。

    以至于听课网友在Reddit上发帖后,立马引来大量围观,帖子热度火速冲到6k。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    而且这不是偶然bug,网友们发现ChatGPT确实无法完成这个任务,我们亲测结果也同样如此。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    △实测ChatGPT(GPT-3.5)

    甚至包括Bard、Bing、文心一言在内等一众产品都不行。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    △实测Bard

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    △实测文心一言

    还有人紧跟着吐槽, ChatGPT在处理这些简单的单词任务就是很糟糕。

    比如玩此前曾爆火的文字游戏Wordle简直就是一场灾难,从来没有做对过。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    诶?这到底是为啥?

    关键在于token

    之所以有这样的现象,关键在于token。token是文本中最常见的字符序列,而大模型都是用token来处理文本。

    它可以是整个单词,也可以是单词一个片段。大模型了解这些token之间的统计关系,并且擅长生成下一个token。

    因此在处理单词反转这个小任务时,它可能只是将每个token翻转过来,而不是字母。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    这点放在中文语境下体现就更为明显:一个词是一个token,也可能是一个字是一个token。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    针对开头的例子,有人尝试理解了下ChatGPT的推理过程。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    为了更直观的了解,OpenAI甚至还出了个GPT-3的Tokenizer。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    比如像lollipop这个词,GPT-3会将其理解成I、oll、ipop这三个部分。

    根据经验总结,也就诞生出这样一些不成文法则。

    • 1个token≈4个英文字符≈四分之三个词;
    • 100个token≈75个单词;
    • 1-2句话≈30个token;
    • 一段话≈100个token,1500个单词≈2048个token;

    单词如何划分还取决于语言。此前有人统计过,中文要用的token数是英文数量的1.2到2.7倍。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界


    token-to-char(token到单词)比例越高,处理成本也就越高。因此处理中文tokenize要比英文更贵。

    可以这样理解,token是大模型认识理解人类现实世界的方式。它非常简单,还能大大降低内存和时间复杂度。

    但将单词token化存在一个问题,就会使模型很难学习到有意义的输入表示,最直观的表示就是不能理解单词的含义。

    当时Transformers有做过相应优化,比如一个复杂、不常见的单词分为一个有意义的token和一个独立token。

    就像annoyingly就被分成“annoying”和“ly”,前者保留了其语义,后者则是频繁出现。

    这也成就了如今ChatGPT及其他大模型产品的惊艳效果,能很好地理解人类的语言。

    至于无法处理单词反转这样一个小任务,自然也有解决之道。

    最简单直接的,就是你先自己把单词给分开喽~

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    或者也可以让ChatGPT一步一步来,先tokenize每个字母。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    又或者让它写一个反转字母的程序,然后程序的结果对了。(狗头)

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    不过也可以使用GPT-4,实测没有这样的问题。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    △实测GPT-4

    总之,token就是AI理解自然语言的基石。

    而作为AI理解人类自然语言的桥梁,token的重要性也越来越明显。

    它已经成为AI模型性能优劣的关键决定因素,还是大模型的计费标准。

    甚至有了token文学

    正如前文所言,token能方便模型捕捉到更细粒度的语义信息,如词义、词序、语法结构等。其顺序、位置在序列建模任务(如语言建模、机器翻译、文本生成等)中至关重要。

    模型只有在准确了解每个token在序列中的位置和上下文情况,才能更好正确预测内容,给出合理输出。

    因此,token的质量、数量对模型效果有直接影响。

    今年开始,越来越多大模型发布时,都会着重强调token数量,比如谷歌PaLM 2曝光细节中提到,它训练用到了3.6万亿个token。

    以及很多行业内大佬也纷纷表示,token真的很关键!

    今年从特斯拉跳槽到OpenAI的AI科学家安德烈·卡帕斯(Andrej Karpathy)就曾在演讲中表示:

    更多token能让模型更好思考。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    而且他强调,模型的性能并不只由参数规模来决定。

    比如LLaMA的参数规模远小于GPT-3(65B vs 175B),但由于它用更多token进行训练(1.4T vs 300B),所以LLaMA更强大。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    而凭借着对模型性能的直接影响,token还是AI模型的计费标准。

    以OpenAI的定价标准为例,他们以1K个token为单位进行计费,不同模型、不同类型的token价格不同。

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    总之,踏进AI大模型领域的大门后,就会发现token是绕不开的知识点。

    嗯,甚至衍生出了token文学……

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    不过值得一提的是,token在中文世界里到底该翻译成啥,现在还没有完全定下来。

    直译“令牌”总是有点怪怪的。

    GPT-4觉得叫“词元”或“标记”比较好,你觉得呢?

    吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

    参考链接:
    [1]https://www.reddit.com/r/ChatGPT/comments/13xxehx/chatgpt_is_unable_to_reverse_words/
    [2]https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them
    [3]https://openai.com/pricing

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 AI
    相关文章 更多
    Token与Tokenizer是什么?分词、BPE与上下文长度
    Token与Tokenizer是什么?分词、BPE与上下文长度

    深入解析大模型中的Token与Tokenizer工作机制,通过BPE分词示例说明文字如何转化为数字编号,澄清上下文长度与字数的区别,帮助用户准确评估模型处理长文本的实际能力。

    AI重构企业业务架构:超聚变“智企”范式核心解析
    AI重构企业业务架构:超聚变“智企”范式核心解析

    本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

    微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

    习惯Office转WPS要多久?双生态兼容与无缝切换指南
    习惯Office转WPS要多久?双生态兼容与无缝切换指南

    从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

    专家:AI聊天不能越界成“精神依赖”|科技观察
    专家:AI聊天不能越界成“精神依赖”|科技观察

    加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

    2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

    全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

    报告:背负技术债的企业更难从 AI 应用中获益
    报告:背负技术债的企业更难从 AI 应用中获益

    Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

    微软称保守假设下,典型AI查询耗水量少于1滴水
    微软称保守假设下,典型AI查询耗水量少于1滴水

    据微软引用《Joule》期刊的一项研究指出,每一次典型人工智能查询耗电量零点一六至零点六零瓦时,其冷却用水量中位数不足一滴水。大规模部署下,单位查询的效率会更高,总能耗可以降低一半以上。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?