当前位置:

首页 > 编程开发 > vLLM 0.34.0如何检查运行器、缓存与依赖兼容性

vLLM 0.34.0如何检查运行器、缓存与依赖兼容性

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

vLLM 0.34.0使用与兼容变化说明。

本文目录

    运行参数应与模型、显卡和依赖版本一同核对。过去的运行器开关需要清除,缓存块大小和显存预算可按部署需要显式设定。

    vLLM

    vLLM 0.34.0升级前先核对运行器

    GPU Model Runner V1已经移除。若服务进程继承了强制选择旧运行器的环境变量,启动会失败。自定义V1 logits processor需要迁移到vllm.v1.worker.gpu.sample.logits_processor对应的实现接口。

    vLLM 0.34.0官方升级前检查清单

    保留旧块大小和显存预算

    默认块大小由16变为64,ROCm paged attention仍使用16。可扩展KV缓存默认启用,显存利用率默认值为1.0。下列示例适用于已安装vLLM 0.34.0的兼容环境,使用支持的本地模型路径替换占位路径,在启动服务的同一 shell 中清除旧运行器设置,并保留旧块大小和显存比例。

    unset VLLM_USE_V2_MODEL_RUNNER
    vllm serve /path/to/supported-model --block-size 16 --gpu-memory-utilization 0.9

    使用容器或服务管理器时,同一旧变量还可能写在实际服务配置里。该示例预期使用V2,并按显式的块大小和显存比例启动。官方也列出关闭可扩展缓存的备选参数,适用于确实需要关闭这一功能的部署:

    vllm serve /path/to/supported-model --no-enable-extensible-kv-cache

    缓存配置会影响可留给其他工作负载的空间以及当前部署可接纳的并发。实际显存占用取决于模型、批次和平台,不能由比例参数推算固定的吞吐提升或成本节省。

    检查构建渠道和模型兼容性

    官方停止发布ROCm 7.2制品,升级指南指向ROCm 10.0 wheel和镜像。依赖至少为huggingface_hub 2.0.0、tokenizers 0.23.3和timm 1.0.30。原有镜像和锁文件如果仍固定旧依赖,需要按目标构建校验。fp_quant检查点也已无法加载,使用相关检查点的部署应先处理模型兼容问题。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 AI
    相关文章 更多
    Google Gemini 移动端的 66 种地区语音覆盖哪些体验?
    Google Gemini 移动端的 66 种地区语音覆盖哪些体验?

    Google Gemini 在 Android 和 iOS 应用逐步推出 66 种地区语音,解释语音覆盖范围以及实时对话、语言练习和聊天朗读的使用场景。

    Claude Code 2.1.326后台服务和权限提示有哪些变化
    Claude Code 2.1.326后台服务和权限提示有哪些变化

    Claude Code 2.1.326使用与兼容变化说明。

    GitHub Copilot 停用 Claude Opus 4.8、Claude Opus 5 和 GPT-5.6 Terra 后还有哪些使用例外?
    GitHub Copilot 停用 Claude Opus 4.8、Claude Opus 5 和 GPT-5.6 Terra 后还有哪些使用例外?

    GitHub Copilot 已停用 Claude Opus 4.8、Claude Opus 5 和 GPT-5.6 Terra 的多数常规使用路径,区分替代模型、年付及回退例外和组织策略。

    Nod 0.8.1怎样理解状态码、Ray ID与计划检查
    Nod 0.8.1怎样理解状态码、Ray ID与计划检查

    Nod 0.8.1补充连接服务状态与原因、Attio Cloudflare 403诊断,并让Gmail在连接服务429或503后延后计划轮询。

    Ducter 0.0.59如何理解同会话聊天、Git可选和附件变化
    Ducter 0.0.59如何理解同会话聊天、Git可选和附件变化

    Ducter 0.0.59扩展Telegram、Slack和Mac iMessage会话,区分项目目录来源、Git可选、等待状态与附件入口。

    llama.cpp b12435、b12436、b12438测试构建的三类兼容变化有什么区别?
    llama.cpp b12435、b12436、b12438测试构建的三类兼容变化有什么区别?

    llama.cpp b12435、b12436、b12438预发布构建,分别解释Vulkan并列选择确定性、32位编译与Jinja JSON键排序的适用范围。

    ScopeWeaver 0.9.2、0.9.3与0.9.4如何区分运行时、Zod和任务状态变化
    ScopeWeaver 0.9.2、0.9.3与0.9.4如何区分运行时、Zod和任务状态变化

    ScopeWeaver 0.9.2、0.9.3与0.9.4分别调整桥运行时、Zod依赖和同进程服务器重建后的暂停状态;区分版本对象与作者本地研究用途声明。

    MiniMax-H3-Image与DiffSynth-Studio 2.2.2文档配方的硬件条件怎样区分
    MiniMax-H3-Image与DiffSynth-Studio 2.2.2文档配方的硬件条件怎样区分

    MiniMax-H3-Image新增DiffSynth-Studio文档推荐后,配置选择应围绕具体推理配方和独立训练流程展开。文档中的24GB GPU方案分别配合32GB或8GB主机RAM,所用量化、CPU或磁盘卸载方式不同;新增文档入口本身没有发布模型新权重或标注一个新的框架版本。

    AG2 1.3.2的输入Token为何变多,旧ACP版本还能用吗
    AG2 1.3.2的输入Token为何变多,旧ACP版本还能用吗

    AG2 1.3.2统一缓存Token统计并更新ACP1.x依赖;解释预算提前触达、报表口径与Python3.15构建限制。

    llama.cpp b12433怎样为AMD奇数列保留MUL_MAT_ID回退路径
    llama.cpp b12433怎样为AMD奇数列保留MUL_MAT_ID回退路径

    llama.cpp b12433避免AMD设备将奇数src0列送入需要偶数列的MMVF路径:满足偶数条件才保留MMVF,其他形状沿用既有回退。对应改动发生在MUL_MAT_ID处理和相关同步判断中,范围限定于代码说明中的类型与token条件。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?