当前位置:

首页 > 编程开发 > llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?

llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

llama.cpp b12342新增面向少列矩阵计算的CUDA量化内核,覆盖2至24个src1列等场景,例如推测解码的验证阶段。新增内核针对Ampere及更新的NVIDIA GPU,并限定于发行说明列出的量化类型;它不是所有硬件与模型都会得到相同收益的通用开关。

本文目录

    llama.cpp b12342新增面向少列矩阵计算的CUDA量化内核,覆盖2至24个src1列等场景,例如推测解码的验证阶段。新增内核针对Ampere及更新的NVIDIA GPU,并限定于发行说明列出的量化类型;它不是所有硬件与模型都会得到相同收益的通用开关。

    先检查GPU和量化格式是否在范围内

    发行说明列出的格式包括Q8_0、Q3_K、Q4_K、Q5_K、Q6_K、IQ3_S、IQ4_NL和IQ4_XS。少列矩阵计算的条件、GPU架构与量化格式都需要匹配;其他后端或格式不能直接套用这项CUDA变化。

    b12342在GitHub标为预发布。需要验证该构建时,应使用对应源码或发布资产,不能只依据文件名中的“CUDA”认定已包含本次内核。

    llama.cpp b12342的CUDA少列矩阵内核适用条件。
    llama.cpp b12342的CUDA少列矩阵内核适用条件。

    怎样构建带CUDA后端的版本

    准备b12342源码、CMake、支持的编译器与CUDA工具链,在源码目录执行官方构建文档中的命令:

    cmake -B build -DGGML_CUDA=ON
    cmake --build build --config Release

    构建时检查CUDA工具链和目标GPU是否正确识别。如果在没有目标GPU的机器上构建可分发程序,官方文档提供-DGGML_NATIVE=OFF等选项,应按实际架构配置,而不是盲目复制本机的原生优化设置。

    如何验证现有推理任务

    使用相同的GGUF文件、上下文、批量和解码设置,对自己的实际任务检查运行日志、GPU利用与输出结果。推测解码场景还应固定主模型及草稿模型组合,避免把模型、量化或上下文变化误当作内核收益。

    新增内核由实现按条件选择。若工作负载不满足少列计算条件,或使用非适用GPU与格式,不应仅凭升级版本就预期同样变化;发行说明也没有给出可套用于所有部署的统一提速比例。

    依据:官方b12342版本说明;对应版本构建文档

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 人工智能 AI 开源软件
    相关文章 更多
    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?
    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?

    LiteLLM 1.111.0-dev.1是预发布版本。核对这一镜像是否由对应项目密钥签署,可使用cosign,并把公钥固定到发行说明指定的提交。镜像签名校验与应用功能测试分别进行,校验通过不代表升级后的计费和网关配置已经验证。

    Claude Meetings Beta如何加入Google Meet并生成会议记录?
    Claude Meetings Beta如何加入Google Meet并生成会议记录?

    Claude Meetings Beta可作为可见参会者加入Google Meet,记录会议、回答问题并共同制作文档或白板。功能正在Team和Enterprise方案中逐步开放;先完成组织权限与Google Calendar连接,再从会议日历添加Claude。

    Codex CLI 0.168.0如何选择模型提供方并启用并排会话?
    Codex CLI 0.168.0如何选择模型提供方并启用并排会话?

    Codex CLI 0.168.0可从Sessions中的Model providers浏览模型提供方,并设置新聊天的默认选择。启用tui_workspace后,还能在主聊天旁打开侧会话。已有会话保留各自保存的提供方,调整默认值不会把所有历史会话一起切换。

    MiniMax H3-Image生成海报素材时如何选择画幅与参考图
    MiniMax H3-Image生成海报素材时如何选择画幅与参考图

    先按成品版式选择比例和面积档,已有精确尺寸则指定宽高。本文说明H3-Image的4K画幅、参考图编辑、批量结果检查及费用和许可边界。

    workbuddy怎么用模板?模板库在哪里打开
    workbuddy怎么用模板?模板库在哪里打开

    WorkBuddy 的模板不在独立菜单里,而在「新建任务」页:标题下方选办公、开发、设计场景,场景标签下方那一排按钮就是模板。悬停输入框显示灰色预览,点击才真正填入,改完发送即可。本文用真实界面截图讲清模板位置、预览机制、场景与胶囊的差别、六步操作流程,以及找不到模板时的五条排查方法。

    workbuddy怎么用AI生成内容?生成步骤有哪些
    workbuddy怎么用AI生成内容?生成步骤有哪些

    WorkBuddy 用 AI 生成内容只需一句话:把要生成什么、输出成什么格式写进输入框,它会自主拆分步骤并把成品放进右侧「产物」,可生成文档、表格、PPT、图片、网页和视频。本文按 12 步演示模式选择、需求写法、素材与技能准备、查看产物与变更、另存与继续修改,并附效果不理想时的调整顺序。

    workbuddy怎么用才高效?有哪些使用技巧
    workbuddy怎么用才高效?有哪些使用技巧

    WorkBuddy 高效使用的关键在于给足上下文、选对工作模式、把重复流程固化为技能与定时任务。本文用 8 张真实界面截图演示工作空间设置、三种模式切换、「+」菜单里调用技能与专家、定时任务配置,并附 8 个高频坑清单与一周上手路线。

    workbuddy如何导入文件?支持哪些文件格式
    workbuddy如何导入文件?支持哪些文件格式

    WorkBuddy 导入文件有四种方式:拖到页面任意位置、点输入框添加入口选择、Ctrl/Cmd+V 粘贴截图,或把目录设为工作空间让 AI 读取。官方支持 PDF、Word、TXT、Markdown、RTF、Excel、CSV、TSV、PPT、JPG、PNG、GIF、BMP、ZIP、RAR 和常见代码文件,拖拽单次最多 50 个、单个文件大小不限,但不支持直接拖文件夹。本文按 12 步演示四种方式,并附格式限制对照与读不出文件时的排查顺序。

    美团12.69.201更新:小团首页入口与外卖组件使用方法
    美团12.69.201更新:小团首页入口与外卖组件使用方法

    美团12.69.201的iOS版本说明列出小团独立首页入口、升级后的外卖组件与控制中心快捷入口。想用AI助手找吃喝玩乐或优惠,可先从美团首页进入小团;常用外卖服务也可以放到系统桌面。

    美图秀秀12.23.0更新:AI助手支持圈选修改,美化强度可调
    美图秀秀12.23.0更新:AI助手支持圈选修改,美化强度可调

    美图秀秀国际iOS版Meitu 12.23.0强化了局部编辑:AI助手支持圈选后描述修改目标,一键美化新增橡皮擦,丰盈与提拉效果支持强度调整。视频编辑还增加低光修复、色彩增强和降噪。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?