当前位置:

首页 > 编程开发 > llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?

llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

llama.cpp b12345的预发布构建为Hexagon HTP后端增加Q5_0和Q5_1支持。选择模型时需要核对完整量化名称及实际运行后端,不能只看到“Q5”就视为同一种格式。

本文目录

    llama.cpp b12345的预发布构建为Hexagon HTP后端增加Q5_0和Q5_1支持。选择模型时需要核对完整量化名称及实际运行后端,不能只看到“Q5”就视为同一种格式。

    Q5_0与Q5_1分别怎样实现

    对应变更为Q5_0提供独立的704字节tile,以及专用HVX和HMX内核;Q5_1则复用Q5_K的tile和内核。这两种格式在实现上有所区别,不能把它们与名称相近的Q5_K混为一谈。

    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?
    llama.cpp b12345官方发行说明。

    准备运行时先核对哪些条件

    1. 确认所用构建是b12345,并核对它确实启用了目标Hexagon后端。
    2. 查看模型的实际量化类型,区分Q5_0、Q5_1与其他Q5系列格式,不能只依赖简略文件名。
    3. 在目标设备上检查模型加载和运行日志,确认实际采用的后端与预期相同。
    4. 用相同模型、输入和推理设置检查输出与资源使用,再决定是否替换原有部署。

    已有验证可以说明什么

    贡献者在对应PR中报告,验证设备包含v73和v81 WoS,Q5_0通过59项测试,Q5_1通过52项测试。这些是贡献者报告的验证范围,不是全部设备的性能测评,也不能换算成统一加速比例。

    b12345在GitHub标为预发布。实际部署还需要验证自己的设备、后端构建与模型组合,发行记录没有为所有平台给出相同的性能承诺。

    依据:官方发行说明;Hexagon量化支持变更及贡献者验证

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 人工智能 AI 开源软件
    下一篇: 暂无
    相关文章 更多
    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?
    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?

    llama.cpp b12344的预发布构建调整了MCP工具调用的取消行为:客户端断连或调用超时时,服务器会向MCP服务发送带请求ID的取消通知。使用服务端工具的Web界面也属于这项变更范围。

    OpenAI Sites发布服务恢复后,还需要检查哪些结果?
    OpenAI Sites发布服务恢复后,还需要检查哪些结果?

    OpenAI已将Sites发布异常标为已恢复。此前发布失败的用户,可以重新检查个人站点的发布结果;官方服务恢复与某个站点已经发布成功,需要分别确认。

    Facemoji 4.64如何在iPhone上添加键盘并切换使用?
    Facemoji 4.64如何在iPhone上添加键盘并切换使用?

    Facemoji AI Emoji Keyboard 4.64面向iPhone和iPad提供稳定性修复。已有用户可通过App Store更新后继续使用原有键盘;首次安装者还需要在iOS键盘设置中添加Facemoji,才能在聊天应用里切换使用。

    Remini 2.10.225如何导入照片并检查增强效果?
    Remini 2.10.225如何导入照片并检查增强效果?

    Remini 2.10.225对性能和错误进行调整,主要用途仍是增强旧照片、模糊照片和人像。更新说明没有列出新的模型或单独修复清单;使用时先授予需要的照片访问权限,再选择要增强的素材。

    百度15.84.0如何使用智能搜索、识图和语音输入?
    百度15.84.0如何使用智能搜索、识图和语音输入?

    百度15.84.0的iOS发行说明为已知问题修复与体验改进。使用智能搜索时,可根据问题选择文字、图片或语音入口;这些搜索方式是应用已有能力,不应把本次维护版本写成首次推出新模型。

    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?
    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?

    llama.cpp b12342新增面向少列矩阵计算的CUDA量化内核,覆盖2至24个src1列等场景,例如推测解码的验证阶段。新增内核针对Ampere及更新的NVIDIA GPU,并限定于发行说明列出的量化类型;它不是所有硬件与模型都会得到相同收益的通用开关。

    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?
    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?

    LiteLLM 1.111.0-dev.1是预发布版本。核对这一镜像是否由对应项目密钥签署,可使用cosign,并把公钥固定到发行说明指定的提交。镜像签名校验与应用功能测试分别进行,校验通过不代表升级后的计费和网关配置已经验证。

    Claude Meetings Beta如何加入Google Meet并生成会议记录?
    Claude Meetings Beta如何加入Google Meet并生成会议记录?

    Claude Meetings Beta可作为可见参会者加入Google Meet,记录会议、回答问题并共同制作文档或白板。功能正在Team和Enterprise方案中逐步开放;先完成组织权限与Google Calendar连接,再从会议日历添加Claude。

    Codex CLI 0.168.0如何选择模型提供方并启用并排会话?
    Codex CLI 0.168.0如何选择模型提供方并启用并排会话?

    Codex CLI 0.168.0可从Sessions中的Model providers浏览模型提供方,并设置新聊天的默认选择。启用tui_workspace后,还能在主聊天旁打开侧会话。已有会话保留各自保存的提供方,调整默认值不会把所有历史会话一起切换。

    MiniMax H3-Image生成海报素材时如何选择画幅与参考图
    MiniMax H3-Image生成海报素材时如何选择画幅与参考图

    先按成品版式选择比例和面积档,已有精确尺寸则指定宽高。本文说明H3-Image的4K画幅、参考图编辑、批量结果检查及费用和许可边界。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?