当前位置:

首页 > 硬件相关 > ESP32-AI亮相:8MB PSRAM运行2890万参数模型

ESP32-AI亮相:8MB PSRAM运行2890万参数模型

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

乌克兰开发者成功在ESP32-S3上运行2890万参数AI模型,通过分层嵌入与4-bit量化将模型压缩至14.9MB,嵌入表存入闪存缓解内存压力,适用于离线咖啡机等垂直场景,验证了小芯片运行大模型的可能性。

本文目录

    在嵌入式AI领域,一个看似不可能的任务最近被实现了:乌克兰开发者Sla va S成功在乐鑫ESP32-S3开发板上跑通了2890万个参数的本地AI模型。要知道,这块开发板的内存资源相当有限——512KB的SRAM、8MB的PSRAM和16MB的闪存。此前,另一位开发者Da ve Bennett在这块板子上部署AI模型时,参数上限被卡在26万个。差距有多大?整整两个数量级。

    那么,Sla va S是怎么做到的?关键一招是采用了Google Gemma模型中的“Per-Layer Embeddings”(分层嵌入)技术。模型经过4-bit量化后,文件大小被压缩到14.9MB,而25M参数的嵌入表被直接存入16MB的闪存中。这样一来,模型每生成一个Token,只需要从嵌入表中读取少量数据,内存压力大幅降低。

    当然,得说清楚:这块板子虽然能跑2890万个参数,但别指望它陪你聊天或写代码。Sla va S本人也坦承,目前的应用场景更偏向于垂直领域——比如离线咖啡机。想象一下,一台搭载ESP32-S3的咖啡机,可以根据咖啡豆品种、研磨方式、水粉配比和水温,实时生成个性化的冲泡建议。这比云端方案更省心,也更有趣。

    话说回来,这个突破的意义更多在于验证了“小芯片也能跑大模型”的可能性。当算力成本不再是唯一瓶颈,嵌入式AI的边界正在被重新定义。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 AI
    相关文章 更多
    CapCut iOS 20.1.0维护范围解读,iOS 15.0兼容条件不等于完整项目验证
    CapCut iOS 20.1.0维护范围解读,iOS 15.0兼容条件不等于完整项目验证

    解读CapCut iOS 20.1.0已知问题处理与修剪体验改善,说明iOS 15.0要求、片段编辑、AI效果和导出之间的区别,不补写性能数字或新增功能。

    Claude Trading Skills六项诊断修复覆盖哪些密钥泄漏路径?
    Claude Trading Skills六项诊断修复覆盖哪些密钥泄漏路径?

    Claude Trading Skills六项技能已修复API密钥异常日志泄漏路径;not_verified保留完整安全审核缺口,离线回归通过不等于实盘验收或全面认证。

    Microsoft C++ Language Server内置MSBuild提取器后,自动化范围和使用资格怎样理解
    Microsoft C++ Language Server内置MSBuild提取器后,自动化范围和使用资格怎样理解

    解释Microsoft C++ Language Server预览版的MSBuild编译数据库自动提取,区分CMake、自定义构建、有效Copilot订阅和CLI能力,避免把测试预发布版本当最低稳定版。

    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件
    OpenAI部分美国企业Mastercard历史拒付已恢复,卡片范围和充值影响有哪些条件

    复核OpenAI部分美国企业Mastercard支付事件的恢复状态、卡号前缀范围及UTC和北京时间,区分充值失败、预付余额耗尽与API请求影响,不将恢复等同于历史订单自动完成。

    法国儿童AI安全承诺与18项专家建议,默认保护和法律状态分别怎样判断
    法国儿童AI安全承诺与18项专家建议,默认保护和法律状态分别怎样判断

    解释法国2026年11月10日儿童AI承诺宪章与专家报告的不同性质,说明年龄适配、独立研究、公开评估及企业支持的边界,避免将建议直接写成统一生效法律。

    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围
    OpenAI与Upwork发现AI项目预算更大,为什么要同时看时薪、工时和项目范围

    解释OpenAI与Upwork自由职业研究中固定预算、时薪和90天工时的不同统计口径,区分52.4%预算差异、任务多样性与描述性关联,避免收入和就业因果误读。

    Commvault与NVIDIA如何治理AI可用数据,12月早期发布和2027年正式可用怎样读
    Commvault与NVIDIA如何治理AI可用数据,12月早期发布和2027年正式可用怎样读

    解释Commvault Data Activate与NVIDIA NIM、Nemotron Retriever、cuVS及Apache Solr合作的数据治理范围,区分内容、权限、保留期限与2026年12月早期发布、2027年正式可用目标。

    GitHub企业Copilot席位API开放应用调用后,读取和席位变更有什么区别
    GitHub企业Copilot席位API开放应用调用后,读取和席位变更有什么区别

    说明Enterprise GitHub Apps的Copilot席位管理权限,提供第一页只读GET示例,区分total_seats、授权明细、遥测活动和待取消计费条件。

    Gemini for healthcare美国预览,Standard/Plus资格与病历只读边界怎样理解
    Gemini for healthcare美国预览,Standard/Plus资格与病历只读边界怎样理解

    解释Gemini for healthcare美国预览的Standard/Plus资格、Epic与Oracle病历只读连接、角色权限、集成阶段和人工监督,不把局部只读扩大为全部工作流。

    Synthesia Syren的Seedance 2.5电影模式,付费可用和企业开启有什么区别
    Synthesia Syren的Seedance 2.5电影模式,付费可用和企业开启有什么区别

    解释Synthesia Syren的Seedance 2.5电影模式,区分付费自助方案、企业管理员开关、模型可用性和额外Credits,避免把模式名称当作模型保证。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?