llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498预发布说明
Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。
llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498 均为预发布构建,分别涉及服务器、语音模型及特定后端;适用范围须按模型、硬件和请求条件区分。
这九个预发布构建可以按三类变化理解:服务器参数与调度修复、指定语音模型支持,以及特定模型和 GPU 后端的计算优化。适用范围由实际模型、硬件与请求条件决定;仅凭构建号更新,无法判断所有任务的速度和兼容性,它们也都尚属预发布记录。

本组预发布的完整版本范围
llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498 均有各自的发行记录与平台资产。Pre-release 状态说明其发布渠道,变更条目说明具体目标;这两部分不能互相替代。
服务端:哪些是请求检查,哪些是调度?
b12489 针对 grammar 与 ignore_eos 同时打开的情况。相关修改修复采样崩溃,将检查移到采样器,并让服务器返回 HTTP 400。因此,遇到该组合被拒绝时,不能把它理解成两个选项已经能够共存。

b12498 涉及 slot_sched 中的 LoRA 与 recurrent 调度修复。其附带的混合 SWA 检查点测试说明,则是在解释缓存和非缓存运行划分 ubatch 不一致时,CUDA 内核条件会不同,接近的概率排序也可能受影响。

让每个 ubatch 只包含一个 token,作用在于统一该测试的内核路径,以便精确比较输出。这个测试修订不支持“缓存此前一定错误”的推断,也没有宣称任意 CUDA 模型都有逐位一致输出。它和服务器参数冲突仍是不同问题。
语音支持:模型名称决定解读边界
b12491 为 mtmd 增加 Qwen3-TTS 的 ICL/reference mode,修改同时涉及正确性与转录信息附着。其对象是该模型的参考模式,不能延伸为全部语音模型共享的能力。
b12494 提供 Kokoro TTS 支持,涉及 G2P 模板、文本规范化相关说明、模板作用域查找和批处理 API 迁移。这些变化应放在 Kokoro 的文本处理链中理解,不能拿来充当其他 TTS 模型的参数文档。
b12497 增加 tiny-voca 支持并改进 G2P。三种模型虽然都归入语音方向,但输入形式和模型资产各有要求;“支持”这一表述本身,不能证明任意权重文件均可直接运行。
后端和模型优化:四个构建各有什么条件?
b12490 修复 qwen4exp 里 n-gram 表缩放带来的图重新分配,调整为用 ggml_scale 应用缩放,且加载后只读取一次缩放值。该问题属于特定模型路径,不能推广到所有 Qwen 系列。
b12492 为 OpenCL 添加 A7 Q5_K non-MoE 二进制内核。后端、Q5_K 与 non-MoE 限定应一起保留,不能简化成所有 OpenCL 配置都获得同样优化。
b12493 在 CUDA 中为 F32 卷积核使用 implicit GEMM conv2d 路径。其做法是在池缓冲区将 F32 卷积核转成 F16,再沿快速路径进行 F32 累加。原始卷积核类型与中间操作数类型不同,因此不能称作全流程 F32,也没有通用加速倍数可以据此引用。
b12496 调整 HIP 的 stream_k 算法和 MMQ 配置,使 AMD GCN 的相关路径使用 stream_k。记录中还说明 CDNA 测试没有改善,所以它描述的是架构相关调整,而不是 AMD 全部 GPU 的性能结论。
源码变化如何对应已分发程序?
源码修订用于说明实现,发行标签定位该修订,预编译包则受操作系统、CPU 架构与后端构建条件约束。源码归档与编译后的程序包不同;仓库中已有某项支持,也不能单凭这一点确认所有下载资产都启用了它。
这组变化的价值在于帮助识别相关问题:参数组合对应 b12489,调度对应 b12498,语音对应具体模型,计算优化对应具体后端和硬件。官方记录给出了变更方向与边界,目标环境下的兼容性、实际性能和业务结果仍不能由构建号直接替代。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。














