商城首页欢迎来到中国正版软件门户

您的位置: 首页 > 文章列表 > 编程开发 > 如何解决Python Flask应用中由于长连接导致的内存泄漏?

如何解决Python Flask应用中由于长连接导致的内存泄漏?

  发布于2026-07-05 阅读(0)

扫一扫,手机访问

先说几个核心判断:长连接服务里的内存泄漏问题,跟短脚本完全是两码事。很多常规的排查手段,在这种场景下要么失灵,要么给你指条错路。下面这几个坑,我见过的踩过的不在少数。

如何解决Python Flask应用中由于长连接导致的内存泄漏?

长连接服务里@profile根本不起作用

直接在 handler 上加 @profile,然后一运行发现毛线输出都没有——别急着怀疑环境没装对,问题根本出在启动方式上。python -m memory_profiler 这玩意儿只对脚本直执行奏效,而 Flask 长连接服务(比如用了 uvicorngunicorn 或者 app.run())根本不走这个入口。装饰器虽然被加载了,但 profiler 压根没有被激活,它就是个摆设。

那么,怎么才能让监控真正跑起来?关键是把 profiler 注入到服务生命周期里:

  • 使用 memory_profiler.LineProfiler 手动包装核心函数,例如 handle_message(),在请求入口处通过 lp.enable()lp.disable() 来控制开启和关闭
  • 不要写在模块顶层;改为运行时 patch,比如在 app.on_startup(FastAPI)或 before_first_request(Flask)里完成注册
  • 在多进程部署模式下(比如 gunicorn --workers 4),默认是不会追踪子进程的,必须加上 --include-children 参数,并且确保每个 worker 都 import 了 profiler

固定间隔采样会错过真实泄漏点

mprof run --interval=0.1 这个采样间隔看起来已经够细了,但用在长连接上,只能说是个假精细。为什么?因为长连接在空闲时内存是相对平稳的,实际内存增长只发生在某次请求处理的几十毫秒甚至几毫秒内。固定采样大概率每次都拍在“平缓期”,你看到的只是一条优雅的爬升曲线,根本不知道泄漏源到底在哪个环节。

真正有效的做法是按事件来打点,而不是盲目地每隔多少毫秒看一眼:

  • 在每次请求开始前记录 psutil.Process().memory_info().rss,请求结束后再记一次,两个值的差值,才是这次请求带来的真实内存增量
  • 对于高频的心跳请求这种“小噪声”,可以加个计数器,每100次或者每5秒 flush 一次差值到日志文件,不至于被淹没
  • 另一个技巧是禁用 mprof 的自动采样,换成 mprof record 配合自定义信号(比如 kill -USR1 $PID)来手动触发快照,精准抓取你怀疑有问题的那个时刻

Increment为正 ≠ 内存泄漏,尤其在长连接中

看到某行代码的 Increment 持续增长好几百KB甚至几MB,先别急着冲过去删代码。Python 的内存池机制有个特点:小对象反复分配再释放时,底层的内存块是会被复用的,所以 rss 数据看起来不降,但 Python 层面的对象其实早就被 GC 回收了。memory_profiler 展示的其实是 C 层的 malloc 变化,它跟 Python 对象的生命周期并不是一一对应的。

那么,怎么才能交叉验证、避免误判?这里有几种更可靠的验证方式:

  • gc.get_objects() 定期检查可疑类的实例数量。比如写个列表推导式:[o for o in gc.get_objects() if isinstance(o, MyWebSocketConnection)],看看是不是只增不减
  • 配合 objgraph.show_growth(limit=5) 来用,比对上两次快照之间新增的类实例,就能确认到底是对象真的在堆积,还是内存池在跟你玩障眼法
  • 如果发现 dictlist 这类基础容器在暴增,但业务逻辑里并没有相应的操作,那大概率是闭包捕获了 request 对象,或者某个全局缓存没有及时清理造成的

debug=True 和 auto_reload 是开发模式下的隐形泄漏源

本地调试的时候内存越跑越高?先别怀疑自己写的业务逻辑是不是出了什么宇宙级 bug——很可能只是 debug=True 这个开关惹的祸。它开启了 Werkzeug 的模板 AST 缓存和源码重载机制,这些对象会被强引用住,GC 根本触碰不到它们。

实操层面的建议非常直接:

  • 立刻把 debug 设为 False。如果实在需要热重载,那就关掉 Jinja2 的 auto_reload:设置 app.jinja_env.auto_reload = False
  • 检查一下你是不是误把 flask run --debug 当成了“只是开个调试器”的温和操作——实际上它完全等价于 app.run(debug=True),整套重载链是全部开启的
  • 重启后内存立刻回落?那说明泄漏源是运行时动态生成的对象,而不是模块级的静态大对象。这时候优先去查 EVENT_CACHE = [] 这类全局容器,以及异常处理器里的上下文引用——那里往往藏着“幽灵”

最后再补充一句:长连接场景下,最危险的其实不是分配得多,而是某个闭包、信号回调或者线程局部变量静静地 hold 住了 request context。这种引用链靠 gc.get_objects() 是看不见的,必须用 objgraph.show_backrefs() 才能彻底揪出来。

本文转载于:https://www.php.cn/faq/2747369.html 如有侵犯,请联系zhengruancom@outlook.com删除。
免责声明:正软商城发布此文仅为传递信息,不代表正软商城认同其观点或证实其描述。

热门关注