当前位置:

首页 > 软件教程 > 用六幅图解说Linux零拷贝技术

用六幅图解说Linux零拷贝技术

大家好,今天让我们聊一聊Linux零拷贝技术。我们将以sendfile系统调用作为切入点,深入探讨零拷贝技术的基本原理。零拷贝技术的核心思想是尽量减少数据在内存之间的复制,通过优化数据传输路径,提高数据传输的效率和性能。1.零拷贝技术简介Linux零拷贝技术是一项用于优化数据传输的技术,通过减少数据在内核态和用户态之间的复制次数,从而提高数据传输的效率。在数据传输的过程中,通常需要将数据从内核缓冲区复制到应用程序的缓冲区,再从应用程序缓冲区复制到网络设备的缓冲区,最终才能完成发送。零拷贝技术的优势在于能够

本文目录

    六张图讲清楚Linux零拷贝技术

    大家好,今天让我们聊一聊Linux零拷贝技术。我们将以sendfile系统调用作为切入点,深入探讨零拷贝技术的基本原理。零拷贝技术的核心思想是尽量减少数据在内存之间的复制,通过优化数据传输路径,提高数据传输的效率和性能。

    1.零拷贝技术简介

    Linux零拷贝技术是一项用于优化数据传输的技术,通过减少数据在内核态和用户态之间的复制次数,从而提高数据传输的效率。

    在数据传输的过程中,通常需要将数据从内核缓冲区复制到应用程序的缓冲区,再从应用程序缓冲区复制到网络设备的缓冲区,最终才能完成发送。

    零拷贝技术的优势在于能够直接传输数据,无需经过中间复制的步骤,这有助于提高数据传输的效率。

    Linux零拷贝技术实现方式:

    • sendfile系统调用:sendfile系统调用可以在内核态中直接将文件内容发送到网络设备的缓冲区,避免了数据在用户态和内核态之间的拷贝。
    • splice系统调用:splice系统调用可以将一个文件描述符的数据直接传输到另一个文件描述符,也可以将数据从一个文件描述符传输到网络设备的缓冲区,避免了中间的拷贝过程。
    • mmap和write系统调用:mmap系统调用可以将文件映射到内存中,然后使用write系统调用将内存中的数据直接发送到网络设备的缓冲区,避免了数据在用户态和内核态之间的拷贝。
    • DMA(Direct Memory Access):DMA是一种硬件技术,可以直接将数据从内存传输到网络设备的缓冲区,避免了CPU的介入,提高了数据传输的效率。

    2.sendfile系统调用

    sendfile系统调用可以在内核空间内直接传输文件数据,它通过将数据从一个文件描述符复制到另一个文件描述符的发送缓冲区来实现。这样一来,数据可以通过网络协议栈直接发送出去,避免了在用户空间和内核空间之间频繁的数据拷贝操作。

    这样就避免了数据在内核和用户空间之间的复制,提高了传输效率。

    sendfile系统调用函数原型:

    #include 
    ssize_t sendfile(int out_fd, int in_fd, off_t *offset, size_t count);
    
    参数说明:
    out_fd:目标文件描述符,用于发送数据。
    in_fd:源文件描述符,从该文件读取数据。
    offset:指定从源文件的哪个位置开始读取数据,可以为NULL表示从当前位置开始。
    count:要传输的字节数。
    
    返回值:
    成功:返回写入out_fd文件的字节数。
    失败:返回-1,并设置errno。

    3.sendfile实现原理

    3.1 传统方式发送文件

    使用传统方式把一个文件通过socket发送出去,我们需要执行一个比较长的路径。

    路径:磁盘->文件页缓存->用户缓冲区->套接字缓冲区->网卡。

    上下文切换和内存拷贝情况如下:

    • 上下文切换:4次(read调用,read返回,write调用,write返回)
    • DMA拷贝:2次
    • CPU拷贝:2次(文件页缓存->用户缓冲区,用户缓冲区->套接字缓冲区)

    图片

    3.2 sendfile发送文件

    使用sendfile发送文件,相对来说整个路径会短一些。

    路径:磁盘->文件页缓存->套接字缓冲区->网卡。

    上下文切换和内存拷贝情况如下:

    上下文切换:2次(sendfile调用,sendfile返回)

    DMA拷贝:2次

    CPU拷贝:1次(文件页缓存->套接字缓冲区)

    图片

    3.3 sendfile实现原理

    sendfile实现的核心是管道,管道在Linux系统中应用的比较多,比如说通过管道实现进程间通信。

    当需要将文件数据拷贝至socket缓冲区时,会临时创建一个管道(环形缓冲区),将文件数据先拷贝至管道,再将管道数据迁移至socket缓冲区,数据迁移并不是数据拷贝,只是将指针指向内存地址。

    图片

    3.4 小节

    通过采用sendfile发送文件,可以减少2次上下文切换和1次CPU拷贝,如果我们的实际应用场景是需要进行大量的文件发送,采用sendfile能够很大程度上提高系统性能。

    4.管道

    4.1 管道简介

    管道在Linux系统中应用很广泛,除了零拷贝技术使用到管道,进程间通信同样使用到管道,那么管道到底是什么?

    图片

    管道是什么?

    管道其实就是一个环形缓冲区,通过管道可以将数据从一个文件拷贝另外一个文件。

    管道由struct pipe_inode_info结构体定义,该数据结构有4个重要成员:

    • pipe_buffer:管道缓冲区数组,一个固定长度的数组,每个数组成员都是一个缓冲区,对应一个struct pipe_buffer结构。
    • head:头部序号,表示当前可写缓冲区的位置,需要配合mask使用。
    • tail:尾部序号,表示当前可读缓冲区的位置,需要配合mask使用。
    • ring_size:管道缓冲区数组长度,ring_size – 1计算出mask,head & mask获取当前可写缓冲区数组下标,tail & mask获取当前可读缓冲区数组下标。

    管道缓冲区由struct pipe_buffer定义,该结构有3个重要成员:

    • page:页指针
    • offset:数据在页中偏移
    • len:数据长度

    管道已满或为空判断?

    管道已满判断:

    head – tail >= ring_size,表示管道已满。

    管道为空判断:

    head == tail,表示管道为空。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    软件教程 Linux
    相关文章 更多
    linux删除用户与用户组的方法及命令教程
    linux删除用户与用户组的方法及命令教程

    掌握Linux中删除用户和用户组的正确方法,避免残留文件和进程冲突。本文深入解析userdel和groupdel命令的参数用法,提供处理“用户仍在使用”等常见错误的实战方案。

    Linux如何开启端口号?开放端口命令详解
    Linux如何开启端口号?开放端口命令详解

    详细讲解Linux如何开启端口号以及常用的开放端口命令。

    crossover卸载软件下载及重新安装教程
    crossover卸载软件下载及重新安装教程

    遇到CrossOver运行错误或需要更新版本时,如何彻底卸载旧版并干净重装?本教程详解macOS和Linux下的卸载步骤、残留文件清理方法及官方下载渠道,确保软件环境纯净稳定。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。