ESP32-AI亮相:8MB PSRAM运行2890万参数模型
Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。
乌克兰开发者成功在ESP32-S3上运行2890万参数AI模型,通过分层嵌入与4-bit量化将模型压缩至14.9MB,嵌入表存入闪存缓解内存压力,适用于离线咖啡机等垂直场景,验证了小芯片运行大模型的可能性。
在嵌入式AI领域,一个看似不可能的任务最近被实现了:乌克兰开发者Sla va S成功在乐鑫ESP32-S3开发板上跑通了2890万个参数的本地AI模型。要知道,这块开发板的内存资源相当有限——512KB的SRAM、8MB的PSRAM和16MB的闪存。此前,另一位开发者Da ve Bennett在这块板子上部署AI模型时,参数上限被卡在26万个。差距有多大?整整两个数量级。
那么,Sla va S是怎么做到的?关键一招是采用了Google Gemma模型中的“Per-Layer Embeddings”(分层嵌入)技术。模型经过4-bit量化后,文件大小被压缩到14.9MB,而25M参数的嵌入表被直接存入16MB的闪存中。这样一来,模型每生成一个Token,只需要从嵌入表中读取少量数据,内存压力大幅降低。

当然,得说清楚:这块板子虽然能跑2890万个参数,但别指望它陪你聊天或写代码。Sla va S本人也坦承,目前的应用场景更偏向于垂直领域——比如离线咖啡机。想象一下,一台搭载ESP32-S3的咖啡机,可以根据咖啡豆品种、研磨方式、水粉配比和水温,实时生成个性化的冲泡建议。这比云端方案更省心,也更有趣。

话说回来,这个突破的意义更多在于验证了“小芯片也能跑大模型”的可能性。当算力成本不再是唯一瓶颈,嵌入式AI的边界正在被重新定义。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。















