当前位置:

首页 > 系统应用 > 在腾讯云容器服务TKE中利用HPA实现业务的弹性伸缩

在腾讯云容器服务TKE中利用HPA实现业务的弹性伸缩

在 TKE 上利用 HPA 实现业务的弹性伸缩概述Kubernetes Pod 水平自动扩缩(Horizontal Pod Autoscaler,以下简称 HPA)可以基于 CPU 利用率、内存利用率和其他自定义的度量指标自动扩缩 Pod 的副本数量,以使得工作负载服务的整体度量水平与用户所设定的目

本文目录
    在 TKE 上利用 HPA 实现业务的弹性伸缩

    概述

    Kubernetes Pod 水平自动扩缩(Horizontal Pod Autoscaler,以下简称 HPA)可以基于 CPU 利用率、内存利用率和其他自定义的度量指标自动扩缩 Pod 的副本数量,以使得工作负载服务的整体度量水平与用户所设定的目标值匹配。本文将介绍和使用腾讯云容器服务 TKE 的 HPA 功能实现 Pod 自动水平扩缩容。

    使用场景

    HPA 自动伸缩特性使容器服务具有非常灵活的自适应能力,能够在用户设定内快速扩容多个 Pod 副本来应对业务负载的急剧飙升,也可以在业务负载变小的情况下根据实际情况适当缩容来节省计算资源给其他的服务,整个过程自动化无须人为干预,非常适合服务波动较大,服务数量多且需要频繁扩缩容的业务场景,如:电商服务、线上教育、金融服务等。

    原理概述

    Pod 水平自动扩缩特性由 Kubernetes API 资源和控制器实现。资源利用指标决定控制器的行为, 控制器会周期性的根据 Pod 资源利用情况调整服务 Pod 的副本数量,以使得工作负载的度量水平与用户所设定的目标值匹配。其扩缩容流程和说明如下:

    提示:目前这一功能处于 beta 版本,且 Pod 自动水平扩缩不适用于无法扩缩的对象,比如 DaemonSet 资源。

    HPA Controller:控制 HPA 扩缩逻辑的控制组件。

    Metrics Aggregator:度量指标聚合器。通常情况下,控制器将从一系列的聚合 API(metrics.k8s.io、custom.metrics.k8s.io 和 external.metrics.k8s.io)中获取度量值。 metrics.k8s.io API 通常由 Metrics 服务器提供,社区版可提供基本的 CPU、内存度量类型,相比于社区版,TKE 使用自定义 Metrics Server 采集可支持更广泛的的 HPA 的度量指标触发类型,提供包括 CPU 、内存、硬盘、网络和 GPU 相关指标,了解更多详细内容参阅 TKE 自动伸缩指标说明。

    提示:控制器也可以直接从 Heapster 获取指标。但自 Kubernetes 1.11 起,从 Heapster 获取指标特性的方式已废弃。

    HPA 计算目标副本数算法:TKE HPA 扩缩容算法请参考 工作原理,更多详细算法请参阅 算法细节。

    前提条件

    • 已 注册腾讯云账户。
    • 已登录 腾讯云容器服务控制台。
    • 已创建 TKE 集群。关于创建集群,详情请参见 创建集群。

    操作步骤

    第 1 步:部署测试工作负载

    以 Deployment 资源类型的工作负载为例,创建一个单副本数,服务类型为 WEB 服务的 "hpa-test" 工作负载,在 TKE 控制台创建Deployment 类型工作负载方法请参阅 Deployment 管理。本示例创建结果如下图所示:

    第 2 步:配置 HPA

    在 TKE 控制台为测试工作负载绑定一个 HPA 配置,关于如何绑定配置 HPA 请参阅 HPA 操作步骤 ,本示例配置当网络出带宽达到0.15Mbps(150Kbps) 时触发扩容的策略。

    第 3 步:功能验证

    在集群中启动一个临时 Pod 对配置的 HPA 功能进行测试(模拟客户端):

    kubectl run -it --image alpine hpa-test --restart=Never --rm /bin/sh

    在临时 Pod 中运行下面命令短时间内模拟大量请求访问 "hpa-test" 服务使出口流量带宽增大:

    # hpa-test.default.svc.cluster.local 为服务在集群中的域名,当需要停止脚本时按 Ctrl+C 即可
    while true; do wget -q -O - hpa-test.default.svc.cluster.local; done

    在测试 Pod 中执行模拟请求命令后,通过观察下图中工作负载的 Pod 数量监控可以看到,在 16:21 分时工作负载扩容副本数量至 2 个,由此可推断出已经触发了 HPA 的扩容事件。

    再看看下图对工作负载的网络出口带宽监控,16:21左右时,网络出口带宽增至大约199 Kbps,已经超过HPA设定的网络出口带宽目标值。这进一步证明,此时触发了HPA扩缩容算法,扩容了一个副本数,以满足设定的目标值,所以工作负载的副本数量变成了2个。

    注意:HPA 扩缩容算法 不只以公式计算维度去控制扩缩容逻辑,而会多维度去衡量是否需要扩容或缩容,详情可以参阅 算法细节,所以在实际情况中可能和预期会稍有偏差。

    接下来模拟缩容过程,在 16:24 左右手动停止执行模拟请求的命令, 从下图监控看到此时网络出口带宽值下降到扩容前位置,按照 HPA 的逻辑,此时已经满足工作负载缩容的条件。

    但从下图工作负载的 Pod 数量监控可以看出,工作负载在 16:30 分时才触发了 HPA 的缩容,这是因为触发了 HPA 缩容有默认 5 分钟的容忍时间的算法,以防止度量指标短时间波动导致的频繁的扩缩容,详情请参阅 冷却/延迟支持。从下图可以看出工作负载副本数在停止命令 5 分钟后按照 HPA 扩缩容算法 缩容到了最初设定的 1 个副本数。

    TKE发生HPA扩缩容事件时,会在对应的HPA实例的事件列表展示,如以下图示。这里得留意,事件通知列表的时间分为“首次出现时间”和“最后出现时间”。“首次出现时间”指相同事件首次出现的时间,“最后出现时间”则是相同事件出现的最新时间。所以从下图事件列表的“最后出现时间”字段能看到,本示例的扩容事件时间点是16:21:03,缩容事件时间是16:29:42,这两个时间点与工作负载监控看到的时间点是相符的。

    此外,工作负载事件列表也会记录 HPA 发生时工作负载的增删副本数事件,从下图可以看出工作负载扩缩容时间点与 HPA 事件列表的时间点也是吻合的,增加副本数时间点是 16:21:03,减少副本数时间点是 16: 29:42。

    总结

    在本示例中主要演示了 TKE 的 HPA 功能, 使用 TKE 自定义的网络出口带宽度量类型作为工作负载 HPA 的扩缩容度量指标,当工作负载实际度量值超过 HPA 配置的度量目标值时, HPA 根据扩容算法计算出合适的副本数实现水平扩容,保证工作负载的度量指标满足预期,保障工作负载健康稳定运行;当实际度量值远低于 HPA 配置的度量目标值时,HPA 会在容忍时间后计算合适的副本数实现水平缩容,适当释放闲置资源,达到提升资源利用率的目的,并且整个过程在 HPA 和工作负载事件列表都会有相应的事件记录,使整个工作负载水平扩缩容全程可追溯。

    【腾讯云原生】云说新品、云研新术、云游新活、云赏资讯,扫码关注同名公众号,及时获取更多干货!!

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    系统应用 腾讯云
    相关文章 更多
    腾讯云:将大规模部署国产化算力 布局NPO超级节点
    腾讯云:将大规模部署国产化算力 布局NPO超级节点

    腾讯云在世界人工智能大会上宣布,将大规模部署国产化算力,计划2026年第四季度部署NPO超级节点,并呼吁统一行业标准,推动国产算力从备选走向主力,加速构建自主可控算力生态。

    中际旭创上市首日大跌8%:高瓴淡马锡浮亏1.6亿 阿里腾讯云锋浮亏
    中际旭创上市首日大跌8%:高瓴淡马锡浮亏1.6亿 阿里腾讯云锋浮亏

    中际旭创作为光模块龙头,港股上市首日跌8%报901.5港元,A股同步暴跌15.88%。高瓴、淡马锡等基石投资者各浮亏约1.6亿元,合计超3亿元,投资者损失惨重。该股较历史高点已回调超40%,光模块板块深度调整,市场信心受挫。

    算力新路线浮出水面!腾讯云官宣布局NPO,优于CPO?
    算力新路线浮出水面!腾讯云官宣布局NPO,优于CPO?

    腾讯云宣布将于2026年第四季度部署NPO超级节点,该技术将光引擎与计算芯片集成于同一板卡,去除DSP芯片,显著降低功耗和延迟。相比CPO,NPO工程适配难度更低,对产业链扰动更小,被视为当前国产GPU构建超节点的更务实路线。

    腾讯云盘网页版怎么下载
    腾讯云盘网页版怎么下载

    腾讯云盘网页版下载需先登录,未登录时按钮不可用。单文件可通过右键菜单或预览窗口下载;批量下载会打包成ZIP,但文件夹层级被平铺。共享链接无法多选或保留原结构。如需保留目录结构,建议改用客户端。

    腾讯云盘网页版下载安装教程
    腾讯云盘网页版下载安装教程

    腾讯云盘网页版无需下载安装,直接在浏览器访问官方网址即可使用,支持微信或QQ扫码登录,实现文件上传、下载、预览及分享链接生成,单文件最大20GB,但不支持本地同步与离线编辑。

    腾讯云下调DeepSeek-V4系列模型价格,全面对齐DeepSeek官方定价
    腾讯云下调DeepSeek-V4系列模型价格,全面对齐DeepSeek官方定价

    6月2日起,腾讯云大幅下调DeepSeek-V4模型价格,最高降幅达97.5%,其中缓存命中价格更是降至原价2.5%。降价后同时价格已全面对齐官方定价,服务能力也保持不变,彻底消除了所有平台溢价,用户的使用成本大幅降低。

    腾讯云数据库面向Agent场景全面升级,提供三大AI原生数据库能力
    腾讯云数据库面向Agent场景全面升级,提供三大AI原生数据库能力

    腾讯云数据库面向Agent场景全面升级,提供三大AI原生数据库能力 5月29日,腾讯云正式亮出了一套面向Agent场景全面升级的数据库产品体系,聚焦Agent(智能体)应用、AI编程、智能运维三大场景,落地的AI原生数据库能力颇为扎实。目前这批能力已经在腾讯内部的元宝、QClaw(腾讯智爪)、Cod

    腾讯云数据库面向Agent全面升级,三大AI原生能力加速落地
    腾讯云数据库面向Agent全面升级,三大AI原生能力加速落地

    腾讯云数据库全面升级:为Agent时代重新设计 数据库正在经历一场根本性的变革——从支撑应用的“后台工具”变成AI Agent的“原生搭档”。5月29日,腾讯云正式宣布旗下数据库产品体系已完成面向Agent场景的全面升级,推出覆盖Agent应用、AI编程、智能运维三大场景的原生AI数据库能力。这些能

    港股异动丨腾讯拉升涨超4%,腾讯云两款模型将结束免费正式商用
    港股异动丨腾讯拉升涨超4%,腾讯云两款模型将结束免费正式商用

    腾讯控股股价盘中涨超4%至468.6港元,主要受腾讯云业务进展提振。其智能体平台中的Hy3preview与DeepSeek-V4-Pro模型将于2026年5月27日结束免费公测,正式转为商用按量计费服务。

    2026腾讯云AI产业应用大会定档6月5日
    2026腾讯云AI产业应用大会定档6月5日

    腾讯云将于6月5日在北京举办AI产业应用大会,主题为“Agent进场,效能生长”。大会将发布聚焦效率的AI智能体产品战略与矩阵,分享智能体在具体业务中的落地实践案例,并展示与伙伴共建的AI生态成果,旨在推动智能体技术规模化应用。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。