当前位置:

首页 > 硬件相关 > 54GB模型“瘦身”至4GB:苹果洽谈PrismML,270亿参数大模型有望本地运行于iPhone

54GB模型“瘦身”至4GB:苹果洽谈PrismML,270亿参数大模型有望本地运行于iPhone

苹果与PrismML洽谈,评估其将54GB的270亿参数大模型压缩至4GB的技术,有望在iPhone本地运行。该技术降低内存占用10-15倍,提升响应速度6-8倍,减少能耗3-6倍,但功耗与可靠性仍是挑战。

本文目录

    7月15日,一则消息在科技圈悄然传开:苹果正在与硅谷一家名为PrismML的初创公司进行早期接触,评估其AI模型压缩技术能否应用于iPhone。如果这条路走得通,我们很快就能在手机上本地运行一个拥有270亿参数的大模型——这可不是什么缩水版,而是实打实的“巨无霸”AI。对于苹果而言,这不仅是隐私战略的一次关键升级,更可能让正在经历重大改版的Siri,真正具备与OpenAI、Anthropic等对手正面硬刚的底气。

    这个时间点很微妙。iOS 27公测版刚刚大幅更新了Siri的界面和交互逻辑,显然苹果正在全力备战AI助手的新一轮竞争。而PrismML的CEO也透露,双方评估已经启动,虽然还在早期阶段,但“进展顺利”——这句话背后的信息量,值得细品。

    PrismML的技术底子来自加州理工学院的一个数学突破,投资方是Khosla Ventures。这家公司近期做了一件让人眼前一亮的事:它把阿里巴巴开源的Qwen模型进行了压缩,本来约54GB的模型,愣是被塞进了不到4GB的空间里。这意味着,一个270亿参数的大模型,可以在iPhone 15及之后的机型上直接运行。更具体地说,这套压缩方案能让内存占用降低10到15倍,响应速度提升6到8倍,能耗则下降3到6倍。数据摆在这里,技术指标的跃升是实打实的。

    对苹果来说,把更多AI运算留在设备本地,战略价值怎么强调都不为过。延迟更低、云成本更少、还能在无网络环境下使用部分AI功能——这三点加起来,恰好完美契合苹果一直强调的隐私定位。Counterpoint的分析师Pathak评价得很到位:云端与设备端的AI组合,才是那个既能打、又高效、还尊重用户隐私的完整方案。

    不过,技术指标再亮眼,也绕不开一个现实问题:它到底能不能扛住大规模的真实使用?IDC负责客户端处理器研究的Phil Solis就点出了一个关键点——即便是内存占用降低了,一个被频繁调用的强大模型,对手机电池的消耗依然不可小觑。功耗和可靠性,才是接下来真正的试金石。

    更值得关注的是,PrismML的技术突破,正在引发市场对AI芯片需求的重新思考。它能让原本需要8块GPU才能运行的云端模型,缩减到只需1块——这听起来像是芯片需求要萎缩了。但D.A. Da vidson分析师Gil Luria的视角更犀利:模型瘦身并不会消除对处理器或内存的需求,它只是把算力需求从数据中心转移到了手机等终端设备上。效率的突破,往往会催生更多的使用场景,而不是带来预算的缩减。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 iphone
    相关文章 更多
    苹果手机怎么安装微信(iPhone 微信下载安装图文教程)
    苹果手机怎么安装微信(iPhone 微信下载安装图文教程)

    苹果手机安装微信很简单:打开 App Store,搜索微信,点击获取并安装,再用手机号注册或登录即可使用。本文提供 iPhone 微信下载安装的完整图文步骤,并解答安装失败、无法登录、收不到短信验证码等新手常见问题。

    iPhone快捷指令打开百度地图:URL动作与主屏幕入口
    iPhone快捷指令打开百度地图:URL动作与主屏幕入口

    查看 iPhone 快捷指令中 baidumap 协议示例、打开 URL 动作及添加主屏幕入口的界面,区分启动方式与广告展示效果。

    iOS 27国行版实用功能整理:闹钟、组件与快捷指令怎么用
    iOS 27国行版实用功能整理:闹钟、组件与快捷指令怎么用

    本文详细解析 iOS 27 国行版中值得关注的实用功能,包括如何设置含调休的工作日闹钟、调整独立闹钟音量、高效布局整页组件以及管理快捷指令自动化。同时澄清了连接助理、第三方组件及系统恢复功能的常见误区,帮助用户在不增加学习成本的前提下提升日常使用体验。

    iPhone用户必看:灵活计算器下载安装到手机的完整步骤
    iPhone用户必看:灵活计算器下载安装到手机的完整步骤

    想在 iPhone 上使用灵活计算器?本教程详解如何在 App Store 搜索并安装 FlexiCalc,确认 iOS 15+ 系统要求,完成首次计算测试,并解决下载失败或同步异常等常见问题,助您安全高效地开始使用。

    一文看懂灵活计算器手机端和电脑端的使用区别
    一文看懂灵活计算器手机端和电脑端的使用区别

    想知道灵活计算器在手机和电脑上怎么用最高效?本文详解两端在输入节奏、布局整理及账号同步上的核心区别,助你避免数据丢失,建立顺畅的跨设备记账习惯。

    iphone连接汽车蓝牙教程详细步骤图解
    iphone连接汽车蓝牙教程详细步骤图解

    详解iPhone连接汽车蓝牙的完整步骤,涵盖开启可见性、车机端操作及自动连接设置。针对搜索不到设备、连接失败等常见问题提供排查思路,帮助iOS用户实现稳定的车载音频与通话体验。

    iphone手机电池怎样恢复100的正确操作方法
    iphone手机电池怎样恢复100的正确操作方法

    很多用户希望将iPhone电池健康度恢复至100%,但锂电池老化是物理不可逆过程。本文详解电池健康度的真实含义,提供校准电量显示误差的方法,并给出延缓电池衰减的科学充电建议。

    iphone充电慢什么原因及排查解决方法
    iphone充电慢什么原因及排查解决方法

    iPhone充电速度变慢通常由线材老化、接口积灰或高温保护引起。本文提供从检查配件到系统设置的完整排查方案,帮你找回满血充电速度。

    iphone连接汽车蓝牙怎么连接详细配对步骤教程
    iphone连接汽车蓝牙怎么连接详细配对步骤教程

    想知道iPhone如何连接汽车蓝牙?本文提供从车机开启蓝牙到手机完成配对的详细步骤,解决搜索不到设备或连接失败的问题,助你轻松享受车载音乐和免提通话。

    iphone电池不耐用怎么修复?实用方法教程
    iphone电池不耐用怎么修复?实用方法教程

    iPhone掉电快别急着换电池,先检查后台刷新、定位服务和电池健康度。本文提供具体的iOS设置步骤,帮你找回丢失的续航时间。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。