当前位置:

首页 > 编程开发 > llama.cpp 后端更新:Adreno 分解注意力、CUDA 空分块修复与 SYCL 缓存

llama.cpp 后端更新:Adreno 分解注意力、CUDA 空分块修复与 SYCL 缓存

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

llama.cpp b12314为Adreno OpenCL加入分解Flash Attention,b12316修复CUDA MoE空分块路径读取,b12319源码标签改用SYCL线程本地设备ID缓存。三个后端、两种发布阶段需分别核对,不能合并成统一性能提升或全平台安全结论。

本文目录

    llama.cpp b12314为Adreno OpenCL加入分解Flash Attention,b12316修复CUDA MoE空分块路径读取,b12319源码标签改用SYCL线程本地设备ID缓存。三个后端、两种发布阶段需分别核对,不能合并成统一性能提升或全平台安全结论。

    公告时间:2026年11月12日 13:22:52(北京时间)。

    来源:官方公告或发布说明。

    Adreno OpenCL在b12314增加什么

    b12314预发布构建的说明包括分解Flash Attention、首次调用构建相关kernel、完全遮蔽行的inf处理、PV矩阵乘法的dp4a支持和小批量直接PV路径。它还调整X2E设备上分解FA的适用条件。相关条件与设备、头维度和批量有关,不能把这项后端改进描述成所有Android或所有模型自动获得相同加速。

    llama.cpp 后端更新:Adreno 分解注意力、CUDA 空分块修复与 SYCL 缓存相关官方公告截图1
    官方原始页面,采集于2026年11月12日。

    CUDA MoE空分块修复为何重要

    b12316的MMQ stream-k fixup路径在检查有效范围前读取目标ID,尾部专家的空分块可能越过padding边界。修复在j_sup不大于零时提前返回。官方同时解释,存储前原本已按范围返回,因此结果未受影响;不能把越界读取直接扩写为已经证实的推理错误、远程代码执行或数据泄露。

    llama.cpp 后端更新:Adreno 分解注意力、CUDA 空分块修复与 SYCL 缓存相关官方公告截图2
    官方原始页面,采集于2026年11月12日。

    依据:官方原文;b12316 CUDA修复;b12319源码标签;SYCL关联提交

    SYCL的b12319当前是什么阶段

    b12319已存在源码标签,关联提交时间为北京时间11月12日14:50:55;本轮GitHub Release API未返回该正式发行记录。代码将每次图计算开始时的设备ID查询改为线程本地缓存,减少早退检查涉及的设备管理器互斥锁与映射查询。它不是已测得的整机性能数字,使用者也不能据此假定同名预编译包已上线。

    llama.cpp 后端更新:Adreno 分解注意力、CUDA 空分块修复与 SYCL 缓存相关官方公告截图3
    官方原始页面,采集于2026年11月12日。

    如何选择需要关注的后端

    Adreno OpenCL使用者优先看b12314条件与对应运行库;CUDA MoE项目关注空专家、量化矩阵乘法及原有回归案例;SYCL源码维护者则核对设备选择和多线程图计算。下载或编译仍需匹配操作系统、GPU架构、驱动及后端,不应从同一Release的跨平台资产列表推断每个平台都受同一变更影响。

    上线前建议保留哪些对照

    记录升级前后的提交或构建号、设备、模型量化、上下文和批量设置,用项目既有输入比较输出正确性、错误日志与资源使用。若要比较速度,应保持环境和输入一致并多次测量,不能将缓存机制解释直接写成实测收益。本文没有运行GPU基准或漏洞利用,仅依据官方变更记录解释适用范围。

    与上一轮llama.cpp预警的区别

    此前b12307的Metal SOLVE_TRI修复和b12318的CUDA调试缓冲池已提醒,本篇不重复这些事实。本轮新增范围是Adreno、CUDA MoE空分块路径及SYCL设备ID查询,按各自构建或提交时间记录,避免仅因后端名称相似混为同一条更新。

    依据:官方原文;b12316 CUDA修复;b12319源码标签;SYCL关联提交

    常见问题

    b12319可以直接下载正式Release吗?

    本轮仅确认源码标签及关联提交,尚未确认该版本正式Release或预编译资产。

    CUDA这一修复证明之前结果都不正确吗?

    没有。官方说明原路径在存储前已返回,结果未受影响;问题是空分块路径的读取边界。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 AI
    下一篇: 暂无
    相关文章 更多
    LangChain JS 适配包更新:MCP与OpenAI提高Zod下限,连接器同步依赖
    LangChain JS 适配包更新:MCP与OpenAI提高Zod下限,连接器同步依赖

    LangChain JS的MCP、IBM、OpenAI及Tavily适配包要求安装Zod 4.6.6及以上,OpenRouter、Together AI、xAI和Neo4j同步相关依赖。本文区分直接安全约束与传递依赖更新,给出锁文件和schema兼容性核对方法。

    LangChain Core 1.8.0:最低 Python 升至3.11,加入决策模型能力
    LangChain Core 1.8.0:最低 Python 升至3.11,加入决策模型能力

    langchain-core 1.8.0结束Python 3.10支持,最低要求变为Python 3.11,并加入decision models。Python 3.10仍会解析到1.7.x;升级前应同时核对解释器、锁文件、CI镜像与部署运行时,不把TypeSafe包的迁移要求混同于全部LangChain包。

    GitHub Copilot CLI 1.0.110-2:压缩遵守会话额度,修复插件设置覆盖
    GitHub Copilot CLI 1.0.110-2:压缩遵守会话额度,修复插件设置覆盖

    GitHub Copilot CLI 1.0.110-2预发布补丁让/compact遵守会话AI credit限制,改进失败回复标记,并修复无效配置时插件操作覆盖其他设置的问题。会话清理会跳过其他进程正在使用的会话,适合核对多终端与插件工作流。

    Ducter 0.0.42:消息定向回复上线,串联密钥卡片与 Mac 手机操作
    Ducter 0.0.42:消息定向回复上线,串联密钥卡片与 Mac 手机操作

    Ducter 0.0.42加入对单条消息及选中文字回复;本轮0.0.39—0.0.41还调整主动提醒、密钥请求卡片及Mac上的手机和应用操作。更新涉及本地权限与远端执行边界,应按版本逐项确认,而非默认所有设备都能使用全部功能。

    Qwen Code 1.0.0-preview.1:修复订阅模型登录,支持 Qoder 并行工具调用
    Qwen Code 1.0.0-preview.1:修复订阅模型登录,支持 Qoder 并行工具调用

    Qwen Code 1.0.0-preview.1修复订阅账号登录后无法使用订阅模型的问题,模型目录随登录状态更新,并同步0.27.x模型目录与思考预算映射。Qoder模型支持并行工具调用;这是预览版补丁,需要单独验证配置兼容。

    Google 智能眼镜开放预订:Gemini 随身助手、售价与隐私边界详解
    Google 智能眼镜开放预订:Gemini 随身助手、售价与隐私边界详解

    Google与Gentle Monster、Warby Parker及Samsung合作的智能眼镜开放预订,计划12月10日开售。产品支持Gemini、语音导航与翻译;购买前应核对美国/韩国账号、18岁及兼容手机要求,并区分相机视觉与聊天历史的隐私设置。

    NVIDIA 宣布 CEO 交接:黄仁勋辞任,Colette Kress 出任临时 CEO
    NVIDIA 宣布 CEO 交接:黄仁勋辞任,Colette Kress 出任临时 CEO

    NVIDIA董事会宣布黄仁勋立即辞去总裁、CEO及董事职务,由CFO Colette Kress兼任临时CEO,Harvey C. Jones出任董事长。此次公告确认的是管理层交接,客户应持续核对正式产品与交付公告。

    OpenAI 登录、注册与部分功能故障已恢复:核对受影响时间与请求
    OpenAI 登录、注册与部分功能故障已恢复:核对受影响时间与请求

    OpenAI已于北京时间11月12日04:52:40确认登录、注册与部分ChatGPT功能事件恢复,调查范围也曾包括通过OpenAI API创建会话的错误率。该事件已恢复,用户应核对失败操作与实际结果,不能推断所有API都曾不可用。

    OpenCode PTY 0.5.2:发布 protocol 8 终端服务组件
    OpenCode PTY 0.5.2:发布 protocol 8 终端服务组件

    OpenCode发布opencode-pty 0.5.2终端服务组件,使用protocol 8并以@opencode/pty@0.5.2发布到npm。它面向集成终端子进程的开发者,采用MIT许可,仍被项目说明为实验性服务核心,不是OpenCode整款应用的版本号。

    vLLM 0.34.0rc2 源码标签:调整可扩展 KV Cache 测试内存参数
    vLLM 0.34.0rc2 源码标签:调整可扩展 KV Cache 测试内存参数

    vLLM出现0.34.0rc2候选源码标签,关联提交移除多处可扩展KV Cache测试和基准中的固定gpu_memory_utilization设置,并调整相关文档。当前核验的是标签与代码提交,不能将其当作正式版安装包或全局显存默认值变更。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?