当前位置:

首页 > 编程开发 > llama.cpp b12484、b12485、b12487、b12488 为什么要按运算和硬件核对?

llama.cpp b12484、b12485、b12487、b12488 为什么要按运算和硬件核对?

llama.cpp b12484、b12485、b12487、b12488 均为预发布构建。 浮点解码、池化归约和矩阵计算由不同路径处理。四个构建的维护适用范围各自明确,评估时要同时看软件路径和硬件条件。

本文目录

    浮点解码、池化归约和矩阵计算由不同路径处理。四个构建的维护适用范围各自明确,评估时要同时看软件路径和硬件条件。

    llama.cpp 官方产品封面

    b12484 的浮点转换维护

    llama.cpp b12484 调整 F8_E4M3 解码到 fp32 的实现,采用不依赖 ldexpf 的转换路径。该构建的说明对应浮点格式转换,实际表现仍取决于所用路径。

    b12484 的 F8_E4M3 转换官方预发布

    b12485 的整行池化路径

    b12485 在 CUDA 的 whole-row pool_1d 路径使用块归约,并按池化操作对行内核进行模板化。适用对象是这条 CUDA 池化实现,其他后端的池化行为需独立判断。

    b12485 的 CUDA 池化官方预发布

    b12487 的少行矩阵计算

    b12487 为 CUDA 的 MUL_MAT_ID 增加 few-row MMQ 路径,并调整启动与分发顺序。官方说明包含 DGX Spark 上从两个 token 起的处理分支,评估时需要关注具体硬件与输入规模。

    b12487 的 CUDA 少行矩阵计算官方预发布

    b12488 的 Pascal 融合限制

    b12488 在所有 Pascal GPU 上禁用量化 matvec 融合,范围是该架构下对应的量化矩阵向量计算路径。四个构建都已作为预发布公开,实际采用仍需按数据类型、后端、显卡与运算范围核对。

    b12488 的 Pascal 融合限制官方预发布

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发
    相关文章 更多
    llama.cpp b12483 预发行的 K-pool 前缀更新有什么边界?
    llama.cpp b12483 预发行的 K-pool 前缀更新有什么边界?

    llama.cpp b12483 预发行保留序列编辑前的有效 K-pool 前缀,并用草稿回滚测试核对结果。

    llama.cpp b12478 的 tts_dict 为 Kokoro 语音模板提供什么?
    llama.cpp b12478 的 tts_dict 为 Kokoro 语音模板提供什么?

    llama.cpp b12478 新增 tts_dict,使模板能够读取 GGUF 内的发音词典。维护者列出的用途是 Kokoro 的字素到音素转换。

    llama.cpp b12477 的 K/V 分块读取优化适用于哪些 CUDA 内核?
    llama.cpp b12477 的 K/V 分块读取优化适用于哪些 CUDA 内核?

    llama.cpp b12477 对多阶段 CUDA FP16 MMA Flash Attention 轮转 K/V 分块的读取顺序,目的是提高缓存重用。改动未扩展到单阶段内核。

    llama.cpp b12474 将 Qwen3-Next 权重缩放应用在哪一层?
    llama.cpp b12474 将 Qwen3-Next 权重缩放应用在哪一层?

    llama.cpp b12474 预发布版将 Qwen3-Next 的权重缩放纳入线性注意力的输出投影。该变化位于生成最终注意力结果之后、返回投影输出之前。

    llama.cpp b12475 的 Llama Chat 如何处理缓存与网页更新?
    llama.cpp b12475 的 Llama Chat 如何处理缓存与网页更新?

    llama.cpp b12475 预发布版用 SvelteKit 3 自带的 Service Worker 管理 Llama Chat。应用文件可预缓存,模型 API 请求仍经网络发送。

    llama.cpp b12470 修复了哪些 SYCL Flash Attention 掩码广播错误?
    llama.cpp b12470 修复了哪些 SYCL Flash Attention 掩码广播错误?

    llama.cpp b12470 预发布构建修复了 SYCL 后端使用 MKL 的 Flash Attention 路径。掩码按注意力头或批次广播时,会避免对较小掩码维度直接越界读取。

    llama.cpp b12469 的隐式矩阵乘法需要怎样的硬件能力?
    llama.cpp b12469 的隐式矩阵乘法需要怎样的硬件能力?

    llama.cpp b12469 的 Metal CONV_2D 增加隐式 GEMM。能否走新内核取决于设备是否支持 simdgroup 矩阵指令等实际分派条件。

    llama.cpp b12466 的 SiLU 兼容范围扩大到哪里?
    llama.cpp b12466 的 SiLU 兼容范围扩大到哪里?

    llama.cpp b12466 调整了 OpenCL 的 SiLU 路径。新增的支持包括 f16,以及元素在内存中不连续的 f32 张量。

    llama.cpp b12468 的 WebGPU 时间步嵌入适用哪些项目?
    llama.cpp b12468 的 WebGPU 时间步嵌入适用哪些项目?

    llama.cpp b12468 的 WebGPU 变化集中在时间步嵌入。项目合并说明将 stable-diffusion.cpp 列作依赖该算子的下游项目示例。

    llama.cpp b12465 的 SYCL 快速取模适用哪些路径?
    llama.cpp b12465 的 SYCL 快速取模适用哪些路径?

    llama.cpp b12465。llama.cpp b12465 的快速取模用在 SYCL 广播相关的索引运算。一次内核启动可复用同一组预计算值,前提是除数非零且能放入 32 位。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。