当前位置:

首页 > 编程开发 > llama.cpp b12470 修复了哪些 SYCL Flash Attention 掩码广播错误?

llama.cpp b12470 修复了哪些 SYCL Flash Attention 掩码广播错误?

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

llama.cpp b12470 预发布构建修复了 SYCL 后端使用 MKL 的 Flash Attention 路径。掩码按注意力头或批次广播时,会避免对较小掩码维度直接越界读取。

本文目录

    llama.cpp b12470 预发布构建修复了 SYCL 后端使用 MKL 的 Flash Attention 路径。掩码按注意力头或批次广播时,会避免对较小掩码维度直接越界读取。

    llama.cpp 软件封面

    什么情况下需要广播复用

    一个查询张量可能有多组注意力头或多个批次,掩码只包含其中较少的组。掩码维度大于一而小于查询维度时,旧路径的直接索引会跨出实际掩码长度。

    llama.cpp b12470 预发布记录中的 SYCL 掩码广播修复

    这可能对应哪些异常

    维护者描述的复现中,f16 K/V 会发生设备丢失,q8_0 K/V 会得到 NaN。是否属于这次修复,可结合异常与上述广播形状一起判断。

    这项修复面向什么范围

    llama.cpp b12470 在 GitHub 标为预发布。变更说明定位到 SYCL 后端的 MKL Flash Attention 子路径,其他后端采用各自的实现。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 AI
    相关文章 更多
    Ducter v0.0.68 与 v0.0.69 如何处理锁屏暂停和 Agent 消息投递?
    Ducter v0.0.68 与 v0.0.69 如何处理锁屏暂停和 Agent 消息投递?

    Ducter v0.0.68 支持手机端应用关闭或在后台时发起借用,借用途中锁屏会暂停。Ducter v0.0.69 则把 Agent 消息展示和投递限定在实际能读取、能回信的空间。

    Nod v0.8.3 如何处理旧格式 MCP 工具和长任务结果?
    Nod v0.8.3 如何处理旧格式 MCP 工具和长任务结果?

    Nod v0.8.3 在把旧格式 MCP 工具描述交给 Claude 前先整理,避免受影响的会话加载工具后无法继续。长任务可以在结束前先发出有用且已核实的发现。

    Qwen Code v0.28.0 默认在哪些场景启用共享 Agent 循环?
    Qwen Code v0.28.0 默认在哪些场景启用共享 Agent 循环?

    Qwen Code v0.28.0 将共享 Agent 循环默认用于无界面会话、Ink 终端和子代理。各入口在没有显式配置时采用自己的默认值。

    n8n 2.49.0 与 3.3.0 预发布版如何保存和隔离工具调用记录?
    n8n 2.49.0 与 3.3.0 预发布版如何保存和隔离工具调用记录?

    n8n 2.49.0 与 3.3.0 预发布版对 AI Agent 作了三处调整。工具调用前的模型文本进入 Agent 历史,每条输入单独保存工具调用历史,一次对话中的每轮工具调用都写入聊天记忆。

    OpenBot v1.1.0 正式版从 v1.0.x 升级有哪些条件?
    OpenBot v1.1.0 正式版从 v1.0.x 升级有哪些条件?

    OpenBot v1.1.0 正式发布,从 v1.0.x 升级涉及不可逆数据库迁移、两个 PostgreSQL 角色与新版 API 路径。

    OpenBot v1.1.0-rc.2 的个人版请求需要哪些凭证?
    OpenBot v1.1.0-rc.2 的个人版请求需要哪些凭证?

    OpenBot v1.1.0-rc.2 的个人版请求需要能表明安装身份的凭证。桌面窗口沿用受信任入口建立的会话,程序可携带安装令牌,访问 /api/v2 时还可使用个人 API 密钥。过去直接发出的无凭证请求会被拒绝。

    llama.cpp b12469 的隐式矩阵乘法需要怎样的硬件能力?
    llama.cpp b12469 的隐式矩阵乘法需要怎样的硬件能力?

    llama.cpp b12469 的 Metal CONV_2D 增加隐式 GEMM。能否走新内核取决于设备是否支持 simdgroup 矩阵指令等实际分派条件。

    llama.cpp b12466 的 SiLU 兼容范围扩大到哪里?
    llama.cpp b12466 的 SiLU 兼容范围扩大到哪里?

    llama.cpp b12466 调整了 OpenCL 的 SiLU 路径。新增的支持包括 f16,以及元素在内存中不连续的 f32 张量。

    llama.cpp b12468 的 WebGPU 时间步嵌入适用哪些项目?
    llama.cpp b12468 的 WebGPU 时间步嵌入适用哪些项目?

    llama.cpp b12468 的 WebGPU 变化集中在时间步嵌入。项目合并说明将 stable-diffusion.cpp 列作依赖该算子的下游项目示例。

    OpenMausBot v0.1.166 私有发布要求与预览分别有什么作用?
    OpenMausBot v0.1.166 私有发布要求与预览分别有什么作用?

    OpenMausBot v0.1.166 正式版将机器人发布到 Netlify 的站点默认为公开,说明私有发布要求及聊天实时预览的适用范围。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?