当前位置:

首页 > 系统应用 > 没搞清楚网络I/O模型?那怎么入门Netty

没搞清楚网络I/O模型?那怎么入门Netty

本文是Netty系列笔记第2篇Netty是网络应用框架,所以从最本质的角度来看,是对网络I/O模型的封装使用。因此,要深刻理解Netty的高性能,也必须从网络I/O模型说起。看完本文,可以回答这三个问题:五种I/O模型是什么?核心区别在哪里?同步=阻塞?异步=非阻塞?Netty的高性能,是采用了哪种

本文目录

    本文是Netty系列笔记第2篇

    Netty是网络应用框架,所以从最本质的角度来看,是对网络I/O模型的封装使用。

    因此,要深刻理解Netty的高性能,也必须从网络I/O模型说起。

    看完本文,可以回答这三个问题:

    • 五种I/O模型是什么?核心区别在哪里?

    • 同步=阻塞?异步=非阻塞?

    • Netty的高性能,是采用了哪种I/O模型?

    1.掌握五种I/O模型的关键钥匙

    Unix系统下的五种基本I/O模型大家应该都有所耳闻,分为:

    • blocking I/O(同步阻塞IO,BIO)

    • nonblocking I/O(同步非阻塞IO,NIO)

    • I/O multiplexing (I/O多路复用)

    • signal driven I/O(信号驱动I/O)

    • asynchronous I/O(异步I/O,AIO)

    每种I/O的特性如何,尤其是同步/非同步、阻塞/非阻塞的区别,其实很多人并不能准确地进行区分。

    所以,我们先把最核心的“钥匙”告诉大家,带着这把“钥匙”再来看I/O模型的关键问题,就能手到擒来了。

    当一次网络IO发生时,主要涉及到三个对象:

    • 发起此次IO操作的Process或者Application

    • 系统内核kernel。用户进程无法直接操作I/O设备,必须通过系统内核kernel与I/O设备交互。

    • I/O设备,包括网络、磁盘等。本文主要针对网络。

    真正的I/O过程,主要分为两个阶段:

    • 等待数据准备阶段。

    • 数据拷贝阶段。数据准备完毕,从内核kernel拷贝到进程process中

    以一个socket上的输入操作为例。

    第一步通常涉及等待数据从网络中到达。当所等待分组到达时,它被复制到内核中的某个缓冲区。

    第二步就是把数据从内核缓冲区复制到用户态缓冲区。

    这里,我们先记住这两个阶段,掌握所有I/O模型区别的“关键钥匙”就在它们身上。

    2.五种I/O模型详解2.1 同步阻塞I/O, BIO

    我们一般使用最多的,最基础的I/O模型就是同步阻塞I/O。

    典型应用:
    阻塞socket、Ja va BIO

    我们来解读一下BIO的过程:

    • 应用进程向内核发起 I/O 请求,发起调用的线程一直阻塞,等待内核返回结果。

    • 数据准备完毕,从内核kernel拷贝到用户态内存(仍旧阻塞),然后kernel返回结果,用户进程process结束阻塞,重新运行。

    “关键钥匙”分析:
    BIO的特点就是在IO执行的两个阶段都被阻塞了。

    所以,我们日常使用BIO模型的时候,提高性能的方式,就是采用多线程。

    在一般的场景中,多线程模型下的BIO是成本较低、收益较高的方式。但是,如果在高并发的场景下,过多的创建线程,会严重占据系统资源,降低系统对外界响应效率。

    那是不是可以考虑使用“线程池”或者“连接池”呢?

    一定程度上可以。“池化”的目的在于减少创建和销毁线程的频率,让空闲的线程重新承担新的执行任务,维持一个合理的线程数量,可以很好的降低系统开销。

    但是,“池化”技术只能一定程度上缓解了频繁调用IO接口带来的资源占用。如果“池”上限100,而我们需要1000的IO,那并不能解决性能问题,这是由于BIO模型本身的限制决定的。

    所以,需要非阻塞I/O来尝试解决这个问题。

    2.2 同步非阻塞I/O, NIO

    BIO的阻塞问题,让我们考虑使用非阻塞的NIO模型。

    典型应用:
    socket的非阻塞模式

    应用进程向内核发起 I/O 请求后,如果kernel中的数据还没有准备好,不再会“阻塞”等待结果,而是会立即返回。

    从用户进程角度讲 ,它发起一个IO操作后,并不需要等待,而是马上就得到了一个结果。

    用户进程判断结果是一个error时,它就知道数据还没有准备好,于是它开始发起轮训操作。

    直到kernel中的数据准备好了,一旦用户再轮训过来,就马上将数据拷贝到了用户内存,然后返回。

    所以,在非阻塞式IO中,用户进程其实是需要不断地主动询问kernel数据准备好了没有。

    “关键钥匙”分析:

    非阻塞NIO模型相比于BIO的显著差异在于,在“数据等待”阶段,不再“阻塞”,立即返回。

    但是在“数据拷贝”阶段,仍然是“阻塞”的。

    虽然非阻塞模型避免了“数据等待”阶段的阻塞,但是,采用轮询方式,会导致系统上下文切换开销很大,会大幅度推高CPU 占用率。

    因此,单独使用非阻塞 I/O 模型的效率并不高。而且随着并发量的提升,非阻塞 I/O 会存在严重的性能浪费。

    我们可以看到,轮训的目的只是检测“数据是否已经就绪”,而操作系统提供了更为高效的检测接口,

    例如select()多路复用模式,可以一次检测多个连接是否活跃。

    2.3 多路复用IO

    多路复用实现了一个线程处理多个 I/O 句柄的操作,有些地方也称这种IO方式为事件驱动IO(event driven IO)。

    • 多路 指的是多个数据通道

    • 复用 指的是使用一个或多个固定线程来处理每一个 Socket。

    典型应用:
    select、poll、epoll三种方案
    Ja va NIO

    多个的进程的IO可以注册到一个复用器(selector)上,然后用一个进程调用select,select会监听所有注册进来的IO。

    如果selector所有监听的IO在内核缓冲区都没有可读数据,select调用进程会被阻塞;同时,kernel会“监视”所有select负责的socket,如果任何一个socket中的数据准备好了,select就会返回;

    然后select调用进程可以自己或通知另外的进程(注册进程)来再次发起读取IO,然后process将数据从kernel拷贝到用户进程,读取内核中准备好的数据。

    可以看到,多个进程注册IO后,只有一个select调用进程被阻塞。

    多路复用解决了同步阻塞 I/O 和同步非阻塞 I/O 的问题,是一种非常高效的 I/O 模型。我们可以直观看到,这个模型的好处在于单个process就可以同时处理多个网络连接的IO。

    “关键钥匙”分析:

    多路复用I/O,select阶段,对于多路socket的“数据等待”阶段而言,是“非阻塞”。

    对单个socket的“数据拷贝”阶段,也是“阻塞”。

    这里需要特别注意!!!!

    其实如果处理的IO数不多的情况下,使用多路复用IO的web server不一定比使用 池化+BIO 的web server性能更好,可能延迟还更大。
    考虑极端情况下,只有一个IO,多路复用需要 2 次系统调用(select + recvfrom),而BIO只需要 1 次系统调用(recvfrom)。

    所以,多路复用IO的优势并不是对于单个连接能处理得更快,而是在于能处理更多的连接。

    2.4 信号驱动I/O

    在使用信号驱动 I/O 时,当数据准备就绪后,内核通过发送一个 SIGIO 信号通知应用进程,应用进程就可以开始读取数据了。

    信号驱动I/O模型的最大特点,就是不需要process进程不断轮训内核是否已经准备就绪。

    “关键钥匙”分析:

    信号驱动I/O在"数据等待"阶段“非阻塞”。

    当数据准备完成后,信号通知process,process开始“数据拷贝”阶段,这里仍然是“阻塞”的。

    信号驱动 I/O 有几个缺陷:
    1)在大量 IO 操作时可能会因为信号队列溢出导致没法通知。

    2)信号驱动 I/O 尽管对于处理 UDP 套接字来说有用,信号通知意味着到达一个数据报,或者返回一个异步错误。
    但是,对于 TCP 而言,信号驱动的 I/O 方式不太好用。因为导致信号通知的情况有非常多种,每一个来进行判别会消耗很大资源。

    所以信号驱动I/O模式用得非常少。

    而且尤其需要注意,在“数据拷贝”阶段,它仍然是“阻塞”的。

    2.5 异步I/O,AIO

    真正的异步I/O,就是AIO。

    典型应用:
    JA VA7 AIO、高性能服务器

    根据前面四个模型的分析,相信大家已经能明显看懂这个模型的运行方式了。

    用户进程发起I/O请求后,便可以立刻去做其他事情。而内核在收到请求后,会立即返回,不会对用户进程造成任何阻塞。接着,内核会等待数据准备完成,再将数据拷贝到用户内存。当这一切完成后,内核会向用户进程发送一个信号,告知其I/O操作已完成。

    AIO最重要的一点是从内核缓冲区拷贝数据到用户态缓冲区的过程也是由系统异步完成,应用进程只需要在指定的数组中引用数据即可。

    AIO 与信号驱动 I/O 的主要区别:
    信号驱动 I/O 由内核通知何时可以开始一个 I/O 操作,而异步 I/O 由内核通知 I/O 操作何时已经完成。

    “关键钥匙”分析:

    "数据等待"阶段,非阻塞

    "数据拷贝”阶段,非阻塞

    AIO是真正的异步模型,它不会对请求进程产生任何的阻塞。

    3. 同步=阻塞?异步=非阻塞?

    日常使用过程中,我们往往把 同步I/O 等同于 阻塞I/O,异步I/O 等同于 非阻塞I/O。
    实际上,严格意义来说,这两组概念还是有很大的区别的。

    3.1 阻塞I/O 与 非阻塞I/O

    阻塞与非阻塞的区别比较明显,也很好理解。

    结合I/O模型来说,阻塞I/O会一直block对应的进程直到操作完成,而非阻塞 IO在kernel 在"等待数据准备"阶段会立刻返回。

    所以我们一般认为,阻塞I/O只有BIO,另外四个模型都是属于非阻塞I/O。

    3.2 同步I/O 与 异步I/O

    先来看看 同步I/O 和 异步I/O 的定义是什么,根据POSIX的定义:

    • 同步I/O : A synchronous I/O operation causes the requesting process to be blocked until that I/O operation completes;

    • 异步I/O : An asynchronous I/O operation does not cause the requesting process to be blocked;

    两者的区别就在于同步I/O做 "IO operation”的时候会将process阻塞。

    那么按照这个定义,我们看看前面每个模型的“关键钥匙”分析部分,可以明显看到,BIO,NIO,IO多路复用、信号驱动IO 四种模型都属于 同步IO。

    为何这么说呢?原因在于,它们处于IO的第二阶段,也就是真正执行“数据拷贝”的阶段时,统统都是“阻塞”状态。就拿NIO来说吧,当执行recvfrom这个系统调用的时候,要是kernel的数据尚未准备就绪,此时进程是不会被block的。然而,一旦kernel中的数据准备妥当,recvfrom就会把数据从kernel拷贝到用户内存中,这个时候进程就会被block住啦。

    同理,信号驱动IO,当内核中IO数据就绪时以SIGIO信号通知请求进程,请求进程再把数据从内核读入到用户空间,这一步也是阻塞的。

    所以,真正的异步I/O只有一个,就是AIO。当进程发起IO操作之后,就直接返回再也不管了,直到kernel发送一个信号,告诉进程说IO完成。在这整个过程中,进程完全没有被阻塞。如定义所说,不会因为IO操作阻塞。

    4. Netty采用了哪种I/O模型呢?

    Netty 的 I/O 模型是基于非阻塞 I/O 实现的,底层依赖的是 JDK NIO 框架的多路复用器 Selector。

    一个多路复用器 Selector 可以同时轮询多个 Channel,采用 epoll 模式后,只需要一个线程负责 Selector 的轮询,就可以接入成千上万的客户端。

    更具体的实现方式和模型,我们下一期再展开说明。

    对了,一定有同学想问,Netty为什么不采用AIO呢?

    因为 AIO 的目的是希望 I/O 线程不阻塞主线程,属于异步 I/O,由内核通知 I/O 操作何时完成。AIO 适用于连接数多的且需要长时间连接的场景。

    对于AIO来说,目前操作系统支持程度有限且实现起来复杂。

    Netty也尝试过AIO,但是效果不是很理想,最终废弃了。

    参考书目:
    《UNIX Network Programming(Volume1,3rd)》

    如果有任何疑问或者建议,欢迎写留言或者微信和我联系哦~

    往期热门笔记合集推荐:

    • HBase原理与实战笔记合集

    • MySQL实战笔记合集

    • Canal/Otter源码与实战笔记合集

    • Ja va实战技巧笔记合集

    扫描下方二维码可以关注我哦~

    觉得不错,就点个再看吧

    本文分享自微信公众号 - 阿丸笔记(aone_note)。
    如有侵权,请联系 support@oschina.cn 删除。
    本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    系统应用
    相关文章 更多
    悟空浏览器怎么彻底清理浏览器配置文件
    悟空浏览器怎么彻底清理浏览器配置文件

    彻底清理悟空浏览器的数据,通常有三个路径:通过手机系统设置能一次性清除所有配置和用户信息;利用浏览器内置功能,可以只清理缓存而保留个性化设置;最彻底的则是卸载重装,让应用回到初始状态。 悟空浏览器用久了,是不是偶尔会感觉变慢,或者出现一些难以解释的小毛病?有时候,与其一个个排查问题,不如来一次彻底的

    漫蛙漫画官网首页登录入口
    漫蛙漫画官网首页登录入口

    漫蛙漫画首页登录入口https://www.manwamh.top/:一触即达的漫画世界核心枢纽 对于漫画迷而言,找到那个可靠的资源门户至关重要。漫蛙漫画的首页登录入口,正是这样一个核心渠道。通过它,你可以直接跳转到漫蛙2漫画APP的下载页面,轻松几步完成安装,马上就能投入到精彩纷呈的漫画之旅中。 漫蛙漫画首页登录入口: 官方入口地址已经为你备好

    漫蛙漫画官方入口
    漫蛙漫画官方入口

    漫蛙漫画官方入口与核心功能解析 寻找一个稳定、资源丰富的漫画在线阅读平台,是许多漫画爱好者的共同需求。其中,漫蛙漫画官方入口及其免费全集服务,受到了不少关注。那么,这个平台究竟如何?下面,我们就来深入了解一下它的具体信息与特色功能。 平台的官方访问地址是:https://www.manwa123.c

    漫蛙动漫APP最新版本下载
    漫蛙动漫APP最新版本下载

    对于动漫爱好者而言,找到一个资源全、体验佳的追番平台,常常是件头疼事。漫蛙动漫APP的定位很明确:就是要打造一个聚合全球正版动漫资源的专属乐园。无论是当季火爆的日漫新番、值得回味的经典国创,还是那些小众却精彩的优质动画,在这里基本都能一网打尽。平台底层采用了智能缓冲技术,最大程度保证了播放的流畅度,

    漫蛙官网入口免费下载最新版
    漫蛙官网入口免费下载最新版

    想要获取正版manwa漫蛙APP?官方指定下载渠道就是漫蛙官网入口。 对于漫画迷而言,找到一款心仪的阅读神器至关重要。漫蛙APP正是这样一款专为全球漫画爱好者打造的平台,它汇聚了从日韩人气连载到本土原创精品的海量资源。说它“应有尽有”毫不为过。更重要的是,其界面设计清爽直观,搭配智能检索功能,能让用

    漫蛙漫画在线观看入口
    漫蛙漫画在线观看入口

    想要畅享海量正版漫画资源?漫蛙漫画平台不容错过 对于漫画迷来说,找到一个资源丰富、体验流畅的正版平台实属幸事。漫蛙漫画凭借其优质的在线阅读服务,已经成为了许多资深读者的心头好。今天,我们就来详细拆解一下平台的访问方法与实用技巧,助你轻松开启漫画之旅。 漫蛙漫画网页入口页面指南 想立刻体验?官方在线观

    漫蛙如何下载最新版本
    漫蛙如何下载最新版本

    漫蛙漫画网APP官方下载方法全解析 对于资深漫画迷来说,找到一个资源全、更新快、体验佳的阅读平台,就像淘到了宝藏。漫蛙漫画网APP,正是这样一个专为爱好者打造的精品集散地。它汇聚了全球优质的正版漫画,从火爆的日漫连载到崛起的国创佳作,平台都能做到实时同步更新。当然,第一步得先把它装到设备上。接下来,

    漫蛙漫画APP最新版本下载
    漫蛙漫画APP最新版本下载

    漫蛙漫画APP:专业漫画阅读工具的全面革新 作为一款专业的漫画阅读工具,漫蛙漫画APP整合了全球优质漫画资源,其升级版漫蛙2在功能与体验上可谓全面革新。这款应用不仅囊括日漫经典与国漫新作,更通过简洁直观的界面设计和流畅操作,为用户打造沉浸式阅读环境,充分满足各类漫画爱好者的多样化需求。 漫蛙漫画特色

    卖茶叶妈妈3d漫蛙安卓版下载
    卖茶叶妈妈3d漫蛙安卓版下载

    当下动漫圈热议的卖茶叶妈妈3d漫蛙下载,凭借其突破性的3D视觉技术成为焦点 最近动漫爱好者们都在讨论一个现象级产品——卖茶叶妈妈3d漫蛙下载。这款由漫蛙漫画平台倾力打造的3D作品专区,用立体建模与动态分镜彻底颠覆了传统二维漫画的阅读模式。你猜怎么着?现在只需通过专区提供的便捷下载通道,无论是热血冒险

    漫蛙下载最新版本
    漫蛙下载最新版本

    漫蛙APP:资深漫画迷的移动图书馆与阅读利器 对于漫画爱好者来说,找到一个资源全、体验好的阅读平台,从来都不是件容易的事。而漫蛙APP,恰恰就是为这个需求而生的。它凭借海量的正版漫画库和极其便捷的离线下载功能,在圈内积累了相当不错的口碑。更重要的是,从经典的日本热血漫到新兴的国产原创作品,它几乎一网

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。