当前位置:

首页 > 系统应用 > Serverless给任务调度带来的变化及蚂蚁集团落地实践

Serverless给任务调度带来的变化及蚂蚁集团落地实践

Serverless Task 是蚂蚁集团在分布式调度和批处理中间件发展而来的解决方案。通过 ServiceMesh 的精细化引流能力,再利用研发框架的“服务分组”配置能力,将 Serverless Task 流量全部收敛在指定的“服务分组”集群内。结合定时任务本身具备的周期、可预测等特点,根据任务

本文目录
    Serverless Task 是蚂蚁集团在分布式调度和批处理中间件发展而来的解决方案。通过 ServiceMesh 的精细化引流能力,再利用研发框架的“服务分组”配置能力,将 Serverless Task 流量全部收敛在指定的“服务分组”集群内。结合定时任务本身具备的周期、可预测等特点,根据任务执行情况弹性伸缩“服务分组”内的机器资源从而提升资源利用率。

    分布式调度在蚂蚁的场景和遇到的问题

    在单体架构中,为了解决一台机器在固定的周期间隔执行相同的任务,避免人工干预过多,有了基于 Cron 的单机调度;随着企业级应用的发展和微服务化以及云原生架构的逐渐演进,原先的单体架构逐渐演变为服务化或者云原生架构。在此背景下,既要解决原先单机要解决的定时调度问题,还需要解决任务管理、负载均衡以及高可用、容灾等问题,同时兼顾用户体验的简单高效,分布式调度产品就应运而生。

    在蚂蚁域内,分布式调度广泛应用于各个 BU 的业务场景中,举例:如在支付宝上购买基金的用户每天需要计算基金收益,那么就需要在分布式调度的基础上结合批处理的能力,充分利用应用集群的处理能力,完成每一个用户基金净值的收益计算,典型处理场景如下:

    为了充分利用集群的能力,业务会采用按照业务各个维度拆分的方式对数据进行分片,然后根据分片原则加载数据,最后尽可能的将数据分散在集群机器上完成每一个用户基金净值的计算。通过类似上述集群执行的方式,结合分布式调度及批处理的能力,可以完成业务的计算诉求,但是由于这部分计算逻辑被原有的应用集群承载,随着业务的发展和数据量的不断增加,就会有如下的问题:
    稳定性问题:在线流量如 RPC/MSG 等与任务调度流量(简称异步任务流量)在 CPU/MEM/线程池 资源共享而引发的相互抢占导致的稳定性问题。

    资源利用率问题:异步任务流量最常用 Cron 表达式来描述,对于一天 24 小时只需要运行 7 个小时的任务来说,剩余的 17 个小时的资源就是浪费掉的。

    效率问题:业务同学在接入任务调度以及对批处理执行的控制,数据量统计、异常归类和动态调整参数等复杂性导致的研发效率较低;发布上线后,对处理速度、资源容量评估以及稳定性投入导致的运维效率较低。

    Serverless Task解决方案

    为了解决上文分布式调度在蚂蚁的多年实践中遇到的问题,我们提供了 Serverless Task 的解决方案。

    通过故障隔离的方式来提高稳定性。Serverless Task 在不影响大家研发习惯的前提下,业务同学只需要通过在 PaaS 平台中,在同一个集群下申请“服务分组”集群,这些机器用于达到只承担异步任务的流量,而屏蔽其他在线流量的访问的目的。机器资源承载的流量做区分后,再配合 ServiceMesh 的精细化引流能力能够将流量收敛在指定的“服务分组”内,同时结合框架的“服务分组”配置能力,能够指定 Bean、消息、任务或者服务是否注册或者启动。通过上述的方式,最终能够实现,指定的异步任务收敛在指定的“服务分组”机器资源内,以此实现在线流量和异步任务流量的故障隔离,避免相互影响,而提升系统的整体稳定性。

    通过弹性伸缩的方式来提高资源利用率。基于可控弹性伸缩 HPA 技术,通过分析任务的 Cron 表达式或者基于 CPU/Mem/线程池等各项正常或者异常指标,能够将隔离在指定“服务分组”内运行异步任务的机器动态调整其 Pod 数量,在满足业务处理诉求的前提下,通过弹性伸缩技术最大化的提升资源利用率。

    提供更加产品化的能力。Serverless Task 支持处理器编排、支持迭代隔离、自定义参数和自定义限流等能力以提升业务的研发效率;同时,异步任务在故障隔离的基础上,利用弹性伸缩技术动态调整业务的 Pod 资源数量,可以让业务研发同学尽可能少的关注资源而只需关注任务的运行情况,以此极大的提升运维效率。

    ServerlessTask 关键能力介绍

    • 弹性伸缩技术

    上文介绍了 Serverless Task 的解决方案思路,为了真正实现 Serverless ,让业务同学不关注容量只关注业务逻辑,一个很重要的技术能力就是弹性伸缩。

    弹性伸缩技术是如何运作的呢?它会依据任务的Cron表达式,或者通过分析CPU/Mem等各项指标得出的画像(也就是每个时刻期望的Pod副本数量),来精准确定每个时刻应当处于Ready状态的Pod数量。当处于流量低谷或者任务未运行的时间段,就能够将机器缩容至相对较少的副本数。而在业务Pod需要恢复运行时,启动速度就成了关键因素。为此,采用了基于ServiceMesh、JVM Elastic Heap和内存swap的容器保活技术来实现极速启动,从而确保业务容器在恢复到期望副本数时,能拥有足够快的速度。

    • 任务链路隔离与伸缩能力

    通过上面描述的 Serverless Task 的解决方案,能够将异步任务的流量收敛在一个业务集群指定的“服务分组”集群内,并能够在弹性伸缩的基础上充分利用机器资源。但是,这样就会导致新的问题,当上游系统被隔离后,其处理速度和稳定性都会一定程度的增加,但是对下游的调用量就会激增,导致下游出现热点或者稳定性问题。基于此,我们提供了任务链路的解决方案,期望将 Serverless Task 触发异步任务的门面系统以及对下游系统的调用,都能够通过“服务分组”的方式隔离开,期望组合成一条异步任务流量作为入口流量的任务链路,具体的实现方案如下所示。

    Serverless Task在周期触发时,会自动携带一个染色标识,这可是每一个异步任务的唯一标识哦。通过在任务调度平台选择当前异步任务要引流到的“服务分组”,就能轻松完成门面系统的Serverless Task到指定“服务分组”的引流。每次Serverless Task调用门面系统时,都会带着这个染色标识。门面系统在接收到调用后,会紧接着对下游系统发起调用。此时,门面系统会结合控制面的业务引流能力,在控制面对门面系统下发引流规则,并配置流量比例,这样一来,门面系统对下游系统的调用就会收敛在指定的“服务分组”集群内啦。以此类推,下游系统如果继续有对后续系统的调用,也可以采用类似的方式推送引流规则,完成指定调用流量在“服务分组”集群的收敛,从而实现一条以Serverless Task作为入口流量的任务链路的流量隔离,并且这条链路还具有单独的业务语义,比如批扣链路、计价链路等。

    在完成了任务链路的隔离之后,由于入口的流量是由异步任务驱动或者触发的,流量是能够通过 Cron 或者运行状态做比较准确的预测,那么在任务链路执行完毕后,就可以将整个链路的资源全部伸缩掉,同样当异步任务的流量高峰到来之前时再扩容出足够的机器资源,以此在隔离出任务链路的同时,还能提升整体任务链路的稳定性以及整个任务链路的资源利用率。

    总结与展望

    通过 ServiceMesh 的精细化引流能力,可以将 Serverless Task 流量收敛在指定的“服务分组”集群内,再利用框架(如 SOFA Boot)的“服务分组”配置能力,控制非期望的 Bean 和服务在“服务分组”集群内关闭,最终就能够做到将 Serverless Task 流量完整的收敛在指定的服务器集群内,达到流量收敛的目的后,再结合定时任务本身具备的周期、可预测等特点,就可以根据任务执行情况弹性伸缩“服务分组”内的机器资源从而提升资源利用率。

    鉴于 Serverless Task 给业务带来稳定性和资源利用率提升的业务价值,还能够提升业务的研发效率,我们还会继续支持更多调度以及批处理业务场景的 Serverless 化,如:金融交互文件场景、ODPS 离/在线转换场景和 FTP 文件处理场景,欢迎大家关注。

    阅读延展

    • Service Mesh 双十一后的探索和思考(上)

    • Service Mesh 双十一后的探索和思考(下)

    • 蚂蚁 Service Mesh 大规模落地实践与展望

    • 基于 MOSN 和 Istio Service Mesh 的服务治理实践

    本文分享自微信公众号 - 金融级分布式架构(Antfin_SOFA)。
    如有侵权,请联系 support@oschina.cn 删除。
    本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    系统应用
    相关文章 更多
    蚂蚁集团联合高校研发的
    蚂蚁集团联合高校研发的"视觉猎手",让AI学会主动用眼睛搜索了

    蚂蚁集团联合高校研发的Visual-Seeker视觉原生多模态深度搜索智能体,通过三阶段数据流水线训练,使AI在搜索中主动获取并分析图片证据。在五项多模态搜索基准测试中平均正确率达39.6%,视觉取证任务超越GPT-5等大型商业模型。

    蚂蚁集团董事会换届:何小鹏等3人履新独董,治理阵容加码AI与全球化
    蚂蚁集团董事会换届:何小鹏等3人履新独董,治理阵容加码AI与全球化

    蚂蚁集团董事会换届,新增白重恩、何小鹏、曾顺福为独立董事,史美伦、张宏江留任,独立董事占比超50%。新阵容聚焦AI战略监督。AI产品用户破亿,AI付完成3亿笔,研发投入350.3亿元,推动通用人工智能等领域。

    蚂蚁集团董事会换届:何小鹏等3人履新独董
    蚂蚁集团董事会换届:何小鹏等3人履新独董

    蚂蚁集团董事会完成换届,白重恩、何小鹏、曾顺福新任独立董事,史美伦、张宏江留任。新一届董事会保持9人阵容,独立董事占比过半,治理结构更趋规范透明,彰显公司治理优化与国际接轨。

    蚂蚁集团完成对薄荷健康战略投资 持股超28%成最大外部股东
    蚂蚁集团完成对薄荷健康战略投资 持股超28%成最大外部股东

    蚂蚁集团战略投资薄荷健康,持股超28%成最大外部股东。双方围绕体重管理高频场景,共同打造专业级AI健康服务。薄荷健康深耕近20年,服务2亿用户;蚂蚁阿福用户超1亿。减重是起点,正从医疗服务向健康管理延伸。

    拍饮食测卡路里!蚂蚁集团入股薄荷健康,阿里港股盘中飙涨9%
    拍饮食测卡路里!蚂蚁集团入股薄荷健康,阿里港股盘中飙涨9%

    蚂蚁集团战略投资薄荷健康,持股超28%成为最大外部股东。双方合作首期“拍饮食测卡路里”功能已在蚂蚁阿福App上线。受此消息影响,阿里巴巴港股盘中涨超9%,恒生科技指数大涨4.34%。

    港科大携手蚂蚁集团:当AI导演开始
    港科大携手蚂蚁集团:当AI导演开始"记住"视频里的每一个角色

    香港科技大学、蚂蚁集团等联合提出WorldDirector,将AI视频生成拆分为大语言模型规划三维轨迹的“导演大脑”与视频生成模型的“摄影机”,通过外貌绑定和时间丢弃机制,实现角色离开画面后仍保持身份一致与自然运动,在多项指标上超越现有方法。

    蚂蚁集团开源两款AI安全模型 覆盖智能体与多模态安全场景
    蚂蚁集团开源两款AI安全模型 覆盖智能体与多模态安全场景

    蚂蚁集团开源两款AI安全模型:SingGuard-NSFA为智能体提供行为安全防护,覆盖185种风险场景;SingGuard针对多模态交互内容安全,实现文本、图片统一检测。两者在多项评测中领先,已应用于实际业务。

    蚂蚁国际完成约12亿美元A轮融资,蚂蚁集团、阿里等参与
    蚂蚁国际完成约12亿美元A轮融资,蚂蚁集团、阿里等参与

    蚂蚁国际完成约12亿美元A轮融资,蚂蚁集团、阿里巴巴等现有股东及多家国际机构参与。资金将用于拓展全球业务版图,加速AI技术研发与应用,并夯实跨境支付等普惠金融服务。该轮融资将助力蚂蚁国际在东南亚、中东等新兴市场加速扩张,推动全球数字普惠金融发展。

    蚂蚁国际完成约12亿美元A轮融资,蚂蚁集团、阿里集团等参与
    蚂蚁国际完成约12亿美元A轮融资,蚂蚁集团、阿里集团等参与

    蚂蚁国际完成约12亿美元A轮融资,蚂蚁集团、阿里巴巴等现有股东及多家国际投资机构参与。资金将用于全球市场扩张、AI技术投入及跨境支付等普惠金融科技服务。业务覆盖亚洲、欧洲、中东、拉美,连接超1.5亿商家和20亿消费者账户,旗下拥有Alipay+、Antom、万里汇、Bettr四大板块。

    蚂蚁集团副总裁张俊杰:希望与成都有医疗健康领域的深度合作
    蚂蚁集团副总裁张俊杰:希望与成都有医疗健康领域的深度合作

    7月24日下午,APEC人工智能高级别论坛在成都举行。蚂蚁集团副总裁、健康事业群总裁张俊杰在会上接受了采访,聊了一个核心问题:AI技术到底能带来什么价值?他的回答很干脆——任何技术最大的价值,就是实现足够广泛的普惠,真正改变和提升普通人的生活方式。具体到医疗健康领域,目标就一句话:让老百姓看病更简单

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。