llama.cpp b12414与b12406如何区分后端兼容和模型支持?
llama.cpp b12414要求ROCm 6.3;区分b12406的Inkling 2文本视觉支持、b12413输入标记修复与b12425的ForcedAligner输出头兼容。
在llama.cpp预发布构建b12414中,ROCm最低要求变为6.3;b12406加入Inkling 2文本与视觉支持,但真实检查点转换仍未测试。两者解决的是不同问题:前者影响AMD后端环境判断,后者增加模型能力范围,不能把新增支持等同于所有模型、设备都已验证。

b12414为什么需要重新确认ROCm环境?
b12414重构CUDA/HIP中带_sync的warp原语使用,采用ROCm原生原语,并把ROCm版本要求提高至6.3。发布记录还提到top-k可选择warp。对ROCm用户而言,关键是旧环境是否满足新的最低要求,而不是仅看构建号比先前更大。
这条记录没有说所有AMD显卡都已获得支持,也没有列出可通用于各系统的安装命令。版本依赖与具体硬件、驱动组合的可用性需要分别判断,因此这里解释兼容边界,不编造升级路径或声称实测通过。

b12406的Inkling 2支持到什么范围?
b12406列出Inkling 2文本GGUF转换、文本推理、视觉mmproj转换以及静态图像编码器等实现。发布说明包含按行块解量化、专家张量处理和相关测试,但也明确真实检查点转换仍未测试。合成权重或CPU测试结果不能替代完整真实模型在目标设备上的验证。
同组b12413继续修正Inkling 2图像起止标记的位置。因此,判断视觉输入支持时,需要区分“实现了架构”和“修正特定输入格式”这两种层次,不能把一个构建的新增能力与后续修复混为同一项。
b12425与其他模型、后端修复有什么区别?
b12425从张量读取qwen3vl输出头大小,使输出头只有5000个时间戳类别、而非完整词表大小的Qwen3-ForcedAligner能够被支持。它说明了特定模型形状的兼容,不代表所有Qwen模型共享同一个输出头,也不应当作通用对齐精度承诺。
b12385补上qwen2vl前馈网络权重缩放,针对原先未应用相应缩放的问题;b12386修正Hexagon的无掩码尾部处理;b12387修正32位环境的ctz64。b12407为LFM3调整Metal融合相关处理,b12408增加OpenCL的A7 Q6_K非MoE二进制内核。这些变更各有模型或后端范围,不能合并成所有平台统一提速。
服务器行为和模板变更如何分别理解?
b12405对越界的grammar_triggers类型改为拒绝,避免直接中止;b12410在全局LoRA配置变化时清理槽缓存;b12411加入server_slot_sched和提示运行哈希,采用SHA256;b12419忽略空停止字符串;b12427对路由器子进程跳过MCP发现。它们分别涉及输入处理、缓存、调度与发现流程,不是同一个开关。
b12422曾加入四项Jinja功能,b12423随即撤回该提交。只看到b12422的说明就判断后续所有构建仍保留这些功能,会遗漏回退事实。加入与撤回发生在不同构建,不能把中间状态当作稳定能力。
哪些只是测试、文档或依赖维护?
b12409让test-backend-ops在缺少或不支持类型、后端等条件下返回错误状态;b12412同步stb_image;b12421把按模型划分的TTS文档移动至docs并更新引用。发布记录没有为这些条目提供新增模型能力或特定漏洞修复依据,不能自行扩写成安全公告或效果指标。
这些记录涉及的b12385、b12386、b12387、b12405、b12406、b12407、b12408、b12409、b12410、b12411、b12412、b12413、b12414、b12419、b12421、b12422、b12423、b12425和b12427是各自独立的预发布构建。选用时应围绕实际模型、后端和兼容要求评估,不以连续构建号冒充新的稳定大版本。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。









