当前位置:

首页 > 硬件相关 > 将 PostgreSQL 扩展至支持 8 亿 ChatGPT 用户

将 PostgreSQL 扩展至支持 8 亿 ChatGPT 用户

PostgreSQL支撑OpenAI核心服务,服务8亿用户及每秒数百万次查询。架构采用主实例写入,配合全球近50个只读副本应对读取压力。为应对写入负载,团队将可分片写操作迁移至AzureCosmosDB,并通过优化查询、分流负载、提升可用性及隔离工作负载,成功支持了业务的快速增长。

本文目录

    PostgreSQL,这个开源关系型数据库的常青树,如今正作为OpenAI核心产品的基石,默默支撑着每秒数百万次的查询和8亿用户的访问。其架构颇为经典:一个主实例负责写入,配合遍布全球的近50个只读副本来应对海量读取。这套组合拳展现了PostgreSQL在应对读密集型负载时惊人的扩展潜力。当然,任何技术方案都有其边界,面对写入压力,团队也巧妙地借助了Azure Cosmos DB来分担可分片的写负载,并持续优化着查询、负载分流与高可用策略。

    多年来,PostgreSQL一直是ChatGPT与OpenAI API等服务的核心数据引擎。随着用户规模呈指数级攀升,数据库面临的挑战也与日俱增。过去一年,其负载增长了超过10倍,且增长势头丝毫未减。

    在持续升级基础设施以应对业务洪流的过程中,我们获得了一个关键洞察:PostgreSQL处理读密集型负载的能力,远比许多人想象的要强大。这个源自加州大学伯克利分校的系统,凭借一个Azure PostgreSQL灵活服务器主实例,以及部署在全球多个区域的近50个只读副本,成功扛住了全球流量的冲击。本文将分享OpenAI技术团队如何通过一系列扎实的工程优化,将PostgreSQL推向极限,并总结其中积累的宝贵经验。

    初始架构的隐忧

    ChatGPT发布后,流量以惊人的速度涌入。当时,团队在应用层和数据库层双管齐下,既通过提升硬件规格进行纵向扩展,也通过增加只读副本来横向扩展读取能力。这套架构在相当长一段时间内运行平稳,持续的优化也为未来的增长预留了空间。

    单主架构竟能支撑OpenAI的庞大规模,听起来或许有些意外,但其落地过程绝非一帆风顺。团队曾多次遭遇因PostgreSQL过载引发的严重服务事件,其模式往往如出一辙:上游的某个问题——可能是缓存层故障导致的大范围缓存穿透,也可能是消耗大量CPU的复杂多表连接查询突然激增,或是新功能上线带来的“写入风暴”——会瞬间推高数据库负载。随着资源利用率飙升,查询延迟增加,请求开始超时。而后续涌入的重试流量,又会进一步加剧负载,形成一个自我强化的恶性循环,最终导致ChatGPT与API服务性能严重下降。

    尽管PostgreSQL在处理读负载时扩展性良好,但在高写入流量期间,挑战依然严峻。这很大程度上源于其多版本并发控制(MVCC)的实现机制。简单来说,当一个查询需要更新某一行甚至其中一个字段时,PostgreSQL会复制整行数据以创建新版本。在高写入负载下,这种机制会导致显著的写入放大。同时,查询为了找到最新数据,可能需要扫描多个旧版本(即“死元组”),这又带来了读取放大。此外,MVCC还会引发表与索引膨胀、增加索引维护开销,并使自动清理(VACUUM)的调优变得复杂。

    将PostgreSQL扩展至每秒数百万次查询

    为了缓解上述限制、减轻主库的写入压力,团队采取了一个清晰的策略:将那些可以水平分片的写入密集型工作负载,逐步迁移至像Azure Cosmos DB这样的分片系统中。同时,优化应用逻辑,尽可能减少非必要的写入操作。作为一项纪律,新的工作负载默认不再使用当前的PostgreSQL部署,而是转向分片系统。

    即便基础设施在不断演进,PostgreSQL本身仍保持未分片状态,由单个主实例处理所有写入。这背后的主要考量是成本与复杂性:对现有庞杂的应用工作负载进行分片改造,意味着需要修改数百个应用端点,其工程复杂度和耗时可能长达数月甚至数年。考虑到当前工作负载以读取为主,且已实施了大量优化,现有架构仍有充足的余量来支持流量持续增长。虽然未来不排除对PostgreSQL进行分片的可能性,但鉴于当前的扩展空间,这并非近期的优先事项。

    那么,具体是如何应对挑战,并将PostgreSQL的查询处理能力推向每秒数百万次呢?以下将深入探讨几个关键的优化方向。

    为主库负载减负

    挑战: 单一写入节点是单主架构的天然瓶颈,无法横向扩展写入能力。剧烈的写入峰值可能迅速压垮主库,进而波及其支撑的所有服务。

    解决方案: 核心思路是尽一切可能为主库“瘦身”。读取流量被最大限度地分流到只读副本。然而,部分读查询因其属于写事务的一部分而必须留在主库执行,对于这类查询,确保其高效运行、避免慢查询至关重要。在写入侧,可分片的写入负载已迁移至分片系统。对于那些更难分片但仍产生高写入的负载,迁移工作仍在持续进行。此外,团队积极优化应用以减少写入,例如修复导致冗余写入的程序缺陷,在适当场景引入延迟写入以平滑流量峰值。在进行大规模数据回填等操作时,也会强制执行严格的速率限制,防止产生过度的写入压力。

    查询优化

    挑战: 系统中存在一些高开销查询,过去,一旦这类查询的流量激增,便会大量挤占CPU资源,导致服务延迟甚至中断。

    解决方案: 经验表明,少数几个高开销查询(尤其是涉及复杂多表连接的查询)就足以引发严重的服务劣化。因此,持续优化PostgreSQL查询、避免常见的OLTP反模式是一项必须坚持的工作。例如,团队曾定位到一个连接了12张表的极高开销查询,它的流量峰值正是过去几次高严重性服务事件的元凶。教训是深刻的:应尽可能避免复杂的多表连接。如果连接不可避免,可以考虑将查询拆分,将复杂的连接逻辑移至应用层处理。许多有问题的查询由对象关系映射(ORM)框架自动生成,因此仔细审查其生成的SQL是否符合预期,是开发中的必要环节。另外,PostgreSQL中长时间运行的空闲事务也会带来问题,配置如 idle_in_transaction_session_timeout 这样的超时参数,对于防止其阻塞关键的自动清理进程至关重要。

    缓解单点故障

    挑战: 读副本故障时,流量可以重新路由。但依赖单一写入节点意味着存在一个明显的单点故障——一旦主库宕机,所有写入操作都将中断。

    解决方案: 幸运的是,大多数关键请求仅涉及读操作。为了缓解主库的单点故障风险,团队将这些读查询彻底从主库卸载到副本。这样,即使主库发生故障,这些只读请求仍可继续得到服务。虽然写操作会失败,但影响范围已被大幅缩小,通常不再构成最高级别的事故。

    为了进一步减轻主库故障的影响,生产环境以高可用(HA)模式运行主库,并配备一个热备副本(保持同步、可随时接管流量)。当主库需要下线维护或发生意外宕机时,可以快速将备用副本提升为主库,最大限度减少停机时间。Azure PostgreSQL团队为此做了大量工作,确保即使在极高负载下,故障转移也能安全可靠。对于读副本故障,策略是在每个区域部署多个副本,并预留充足的容量余量,确保单个副本的失效不会导致整个区域的服务中断。

    工作负载隔离

    挑战: 经常遇到某些特定请求消耗不成比例资源的情况,导致同一数据库实例上的其他工作负载性能下降。例如,一个新上线的功能可能引入低效查询,大量消耗PostgreSQL的CPU,从而拖慢其他关键功能的请求。

    解决方案: 团队在全球多个地理区域运行了近50个读副本以降低延迟。然而,在当前架构下,主库必须向每一个副本流式传输预写日志(WAL)。尽管目前通过使用超大型实例类型和高网络带宽尚能良好应对,但无限制地添加副本最终会压垮主库。为此,团队正与Azure PostgreSQL团队合作开发级联复制方案。简单来说,就是让中间副本充当“中继站”,将WAL日志传递给下游副本。这种方法有望将副本数量扩展到上百个,而不会让主库不堪重负。当然,这也会引入额外的运维复杂性,尤其是在故障转移的管理上。该功能目前仍在测试中,团队计划在确保其足够健壮并能安全进行故障转移后,再将其部署到生产环境。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关
    相关文章 更多
    悟空浏览器怎么彻底清理浏览器配置文件
    悟空浏览器怎么彻底清理浏览器配置文件

    彻底清理悟空浏览器的数据,通常有三个路径:通过手机系统设置能一次性清除所有配置和用户信息;利用浏览器内置功能,可以只清理缓存而保留个性化设置;最彻底的则是卸载重装,让应用回到初始状态。 悟空浏览器用久了,是不是偶尔会感觉变慢,或者出现一些难以解释的小毛病?有时候,与其一个个排查问题,不如来一次彻底的

    漫蛙漫画官网首页登录入口
    漫蛙漫画官网首页登录入口

    漫蛙漫画首页登录入口https://www.manwamh.top/:一触即达的漫画世界核心枢纽 对于漫画迷而言,找到那个可靠的资源门户至关重要。漫蛙漫画的首页登录入口,正是这样一个核心渠道。通过它,你可以直接跳转到漫蛙2漫画APP的下载页面,轻松几步完成安装,马上就能投入到精彩纷呈的漫画之旅中。 漫蛙漫画首页登录入口: 官方入口地址已经为你备好

    漫蛙漫画官方入口
    漫蛙漫画官方入口

    漫蛙漫画官方入口与核心功能解析 寻找一个稳定、资源丰富的漫画在线阅读平台,是许多漫画爱好者的共同需求。其中,漫蛙漫画官方入口及其免费全集服务,受到了不少关注。那么,这个平台究竟如何?下面,我们就来深入了解一下它的具体信息与特色功能。 平台的官方访问地址是:https://www.manwa123.c

    漫蛙动漫APP最新版本下载
    漫蛙动漫APP最新版本下载

    对于动漫爱好者而言,找到一个资源全、体验佳的追番平台,常常是件头疼事。漫蛙动漫APP的定位很明确:就是要打造一个聚合全球正版动漫资源的专属乐园。无论是当季火爆的日漫新番、值得回味的经典国创,还是那些小众却精彩的优质动画,在这里基本都能一网打尽。平台底层采用了智能缓冲技术,最大程度保证了播放的流畅度,

    漫蛙官网入口免费下载最新版
    漫蛙官网入口免费下载最新版

    想要获取正版manwa漫蛙APP?官方指定下载渠道就是漫蛙官网入口。 对于漫画迷而言,找到一款心仪的阅读神器至关重要。漫蛙APP正是这样一款专为全球漫画爱好者打造的平台,它汇聚了从日韩人气连载到本土原创精品的海量资源。说它“应有尽有”毫不为过。更重要的是,其界面设计清爽直观,搭配智能检索功能,能让用

    漫蛙漫画在线观看入口
    漫蛙漫画在线观看入口

    想要畅享海量正版漫画资源?漫蛙漫画平台不容错过 对于漫画迷来说,找到一个资源丰富、体验流畅的正版平台实属幸事。漫蛙漫画凭借其优质的在线阅读服务,已经成为了许多资深读者的心头好。今天,我们就来详细拆解一下平台的访问方法与实用技巧,助你轻松开启漫画之旅。 漫蛙漫画网页入口页面指南 想立刻体验?官方在线观

    漫蛙如何下载最新版本
    漫蛙如何下载最新版本

    漫蛙漫画网APP官方下载方法全解析 对于资深漫画迷来说,找到一个资源全、更新快、体验佳的阅读平台,就像淘到了宝藏。漫蛙漫画网APP,正是这样一个专为爱好者打造的精品集散地。它汇聚了全球优质的正版漫画,从火爆的日漫连载到崛起的国创佳作,平台都能做到实时同步更新。当然,第一步得先把它装到设备上。接下来,

    漫蛙漫画APP最新版本下载
    漫蛙漫画APP最新版本下载

    漫蛙漫画APP:专业漫画阅读工具的全面革新 作为一款专业的漫画阅读工具,漫蛙漫画APP整合了全球优质漫画资源,其升级版漫蛙2在功能与体验上可谓全面革新。这款应用不仅囊括日漫经典与国漫新作,更通过简洁直观的界面设计和流畅操作,为用户打造沉浸式阅读环境,充分满足各类漫画爱好者的多样化需求。 漫蛙漫画特色

    卖茶叶妈妈3d漫蛙安卓版下载
    卖茶叶妈妈3d漫蛙安卓版下载

    当下动漫圈热议的卖茶叶妈妈3d漫蛙下载,凭借其突破性的3D视觉技术成为焦点 最近动漫爱好者们都在讨论一个现象级产品——卖茶叶妈妈3d漫蛙下载。这款由漫蛙漫画平台倾力打造的3D作品专区,用立体建模与动态分镜彻底颠覆了传统二维漫画的阅读模式。你猜怎么着?现在只需通过专区提供的便捷下载通道,无论是热血冒险

    漫蛙下载最新版本
    漫蛙下载最新版本

    漫蛙APP:资深漫画迷的移动图书馆与阅读利器 对于漫画爱好者来说,找到一个资源全、体验好的阅读平台,从来都不是件容易的事。而漫蛙APP,恰恰就是为这个需求而生的。它凭借海量的正版漫画库和极其便捷的离线下载功能,在圈内积累了相当不错的口碑。更重要的是,从经典的日本热血漫到新兴的国产原创作品,它几乎一网

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。