当前位置:

首页 > 编程开发 > 从零实现一个轻量级C++线程池

从零实现一个轻量级C++线程池

一、引言 今天,我们来动手实现一个目标:一个轻量、可用且具备良好扩展性的C++线程池。这不仅是理解并发编程核心思想的绝佳实践,也能为你的项目带来实实在在的性能提升。 实现过程将围绕几个关键技术点展开: std::thread:线程的创建与管理。 std::mutex / std::unique_lo

一、引言

今天,我们来动手实现一个目标:一个轻量、可用且具备良好扩展性的C++线程池。这不仅是理解并发编程核心思想的绝佳实践,也能为你的项目带来实实在在的性能提升。

实现过程将围绕几个关键技术点展开:

  1. std::thread:线程的创建与管理。
  2. std::mutex / std::unique_lock:保护共享资源,防止数据竞争。
  3. std::condition_variable:线程间的同步与高效等待。
  4. std::function / future / packaged_task / bind:实现灵活的任务封装与结果获取。

二、什么是线程池

简单来说,线程池是一种用于管理和复用线程的并发编程模型。它的核心思想非常直观:与其在每次需要处理任务时都临时创建新线程,不如预先创建好一组工作线程,把它们放在一个“池子”里统一管理。当有新任务到来时,直接从池子里分配一个空闲线程去执行即可。

从零实现一个轻量级C++线程池

三、为什么需要线程池

频繁地创建和销毁线程可不是没有代价的。每一次操作都伴随着内存分配、内核态切换等系统开销。线程池通过复用线程,巧妙地绕过了这个问题,并带来了三重好处:

  • 降低资源开销:线程复用避免了反复创建和销毁的开销,系统性能自然得到提升。
  • 提高响应速度:任务提交后,无需等待漫长的线程创建过程,可以立即被分配给池中“待命”的线程执行。
  • 提高线程的可管理性:线程是系统级的稀缺资源。无限制地创建线程会迅速消耗大量内存,甚至导致程序崩溃。线程池则提供了统一的入口,让你能对线程数量进行精细的分配、调优和监控。

四、线程池的核心组成

一个典型的线程池,通常由以下几个核心部件构成:

  1. 工作线程集合 (Worker Threads):池中预先创建好的一组线程。它们会持续运行,不断从任务队列中“领取”并执行任务。
  2. 任务队列 (Task Queue):一个线程安全的队列,充当任务提交者和工作线程之间的缓冲区。所有待执行的任务都在这里排队等候。
  3. 同步机制 (Synchronization):
    • 互斥锁 (Mutex):用于保护任务队列,确保在多线程环境下对队列的访问是安全的,防止出现竞态条件。
    • 条件变量 (Condition Variable):这是实现高效等待的关键。当任务队列为空时,工作线程会在此处休眠等待;一旦有新任务加入,它就会被唤醒,从而避免了无意义的循环检测,节省了CPU资源。
  4. 任务接口 (Task Interface):一个对外的提交任务的方法。它需要足够灵活,能够接纳各种类型的可调用对象,比如普通函数、Lambda表达式、函数对象等。

五、C++线程池的实现

在深入代码之前,有必要先快速回顾一下实现中将用到的几个关键C++组件。理解了它们,后面的实现逻辑就会清晰很多。

std::condition_variable——条件变量,它是线程间同步的“信号灯”。当任务队列为空时,工作线程会在此阻塞休眠。而当生产者(任务提交者)将新任务加入队列后,会通过同一个条件变量发出通知,唤醒正在等待的线程。这种机制的好处显而易见:它彻底避免了工作线程通过忙等待(busy-waiting)来轮询队列状态所带来的CPU空转开销。代码中主要用到它的三个接口:

void wait (unique_lock& lck, Predicate pred);

第一个参数是互斥锁。这个函数很聪明,它在内部会先释放锁,然后让线程休眠。这样做是为了防止线程在休眠期间还持有锁,导致其他活跃线程无法获取锁而阻塞。

第二个参数是一个可调用对象(谓词),它必须返回true或false。这个谓词会被循环检查,直到其返回true为止。

当谓词返回true后,线程被唤醒,并重新获取锁,然后继续执行后续代码。

void notify_one() noexcept;

唤醒一个在该条件变量下等待的线程。

void notify_all() noexcept;

唤醒所有在该条件变量下等待的线程。

std::future,用来获取异步任务执行的结果。试想一下,如果没有它,在C++中想获取另一个线程的返回值,通常需要将结果写入一个全局变量。而全局变量作为共享资源,在多线程环境下必须加锁保护。std::future 封装了这些底层细节,提供了一种更安全、更优雅的同步获取结果的方式。

get()方法

调用此方法会阻塞当前线程,直到关联的异步任务完成并返回结果。所以说,它是一种“同步等待”结果的方式。

std::function,是一个通用的函数包装器。它的重要作用在于“统一类型”。函数指针、Lambda表达式、仿函数虽然都是可调用对象,但它们的类型各不相同,无法直接放入同一个容器(比如我们的任务队列)进行管理。而经过 std::function 包装后,它们就拥有了统一的类型,管理起来就方便多了。

std::packaged_task,可以看作是一个“任务包装器”,专门用来包装一个可调用对象,并方便地获取其异步执行的结果。它内部关联了一个 std::future 对象,任务的返回值会被自动存入这个future中。同时,它提供了 get_future() 方法来获取这个关联的future。这样一来,其他线程拿到这个future后,调用 get() 就能拿到结果了。值得一提的是,packaged_task 本身也重载了 () 运算符,可以直接像函数一样调用它来执行包装的任务。

std::bind,用于绑定函数参数,并返回一个新的可调用对象。举个例子,函数 Add(int a, int b) 原本需要两个参数,调用形式是 Add(10, 20)。但经过 std::bind 绑定后,例如 auto func = std::bind(Add, 10, 20);,调用时就不再需要参数了,直接 func() 即可。为什么要做参数绑定?看完下面的线程池实现,你就会豁然开朗。

#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 

class ThreadPool {
public:
    ThreadPool(size_t thread_num = 4):
        _thread_num(thread_num),
        _start(false),
        _stop(false)
    {}
    ~ThreadPool(){
        if (_start && !_stop) stop();
    }
    ThreadPool(const ThreadPool&) = delete;
    ThreadPool& operator=(const ThreadPool&) = delete;
    ThreadPool(ThreadPool&&) = delete;
    ThreadPool& operator=(ThreadPool&&) = delete;

    void start() {
        std::unique_lock lock(_mutex);
        if (_start) return;
        _workers.reserve(_thread_num);
        for (size_t i = 0; i < _thread_num; i++) {
            _workers.emplace_back(std::thread([this](){
                work_loop();
            }));
        }
        _start = true;
    }

    void stop() {
        {
            std::unique_lock lock(_mutex);
            if (!_start || _stop) return;
            // 在join回收线程之前,必须先将_stop置为true,
            // 否则工作线程可能会一直阻塞在条件变量上,导致无法正常退出,甚至会导致程序崩溃
            _stop = true;
        }
        _cond.notify_all();
        for (auto& worker : _workers) {
            if (worker.joinable()) worker.join();
        }
    }

    template
    auto submit(F&& f, Args&&... args)->std::future> {
        using return_type = std::invoke_result_t;
        // 绑定函数参数,并交给任务包装器
        auto task = std::make_shared>(
            std::bind(std::forward(f), std::forward(args)...)
        );
        // 获取关联的future
        std::future res = task->get_future();
        // 加锁+入队列
        {
            std::unique_lock lock(_mutex);
            if (_stop || !_start) throw std::runtime_error("线程池未启动!");
            _tasks.emplace([task](){(*task)();});
        }
        _cond.notify_one();
        return res;
    }

private:
    void work_loop() {
        while (true) {
            std::function task;
            {
                std::unique_lock lock(_mutex);
                _cond.wait(lock, [this](){
                    return _stop || !_tasks.empty();
                });
                if (_stop && _tasks.empty()) return;
                task = std::move(_tasks.front());
                _tasks.pop();
            }
            task();
        }
    }

private:
    std::vector _workers;
    std::queue> _tasks;
    std::mutex _mutex;
    std::condition_variable _cond;
    size_t _thread_num;
    bool _start;
    bool _stop;
};

int add(int a, int b) {
    return a + b;
}

void print() {
    std::cout << "-------------------print-------------------" << std::endl;
    std::cout << "Hello World!" << std::endl;
}

int main() {
    ThreadPool pool(4);
    pool.start();
    std::cout << "==================ThreadPoolTest==================" << std::endl;
    pool.submit([](){
        std::cout << "-------------------lambda-------------------" << std::endl;
        std::cout << "this is a lambda!" << std::endl;
    });
    std::this_thread::sleep_for(std::chrono::seconds(3));  
    auto ret1 = pool.submit(add, 10, 20);
    std::cout << "-------------------add-------------------" << std::endl;
    std::cout << "10 + 20 = " << ret1.get() << std::endl;
    std::this_thread::sleep_for(std::chrono::seconds(3));  
    pool.submit(print);
    pool.stop();
    return 0;
}

运行结果:

从零实现一个轻量级C++线程池

上面的实现代码用到了C++17的语法特性(如 std::invoke_result_t)。

这里有一个关键点需要解释:我们的任务队列中存储的任务类型是 std::function,这意味着任务既没有参数,也没有返回值。那么,像 add 这样带参数和返回值的函数,是如何被成功提交并执行的呢?秘诀就在于那三步组合操作:

  1. 通过std::bind绑定函数的所有参数:这样一来,原本需要参数的函数就变成了一个“无参”的可调用对象。
  2. 通过std::packaged_task获取函数的返回值:返回值被自动存入其内部的future中,外部可以通过future来获取,因此任务本身无需返回值。
  3. 通过一层Lambda进行最终封装:不管原始函数是什么形态,最终放入队列的任务,都是一个符合 void() 签名的Lambda表达式。

这三板斧组合在一起,就实现了强大的适配能力,无论原函数有无参数、有无返回值,都能完美适配到我们统一的任务队列中。

另外,细心的你可能注意到了代码中的 std::forward(完美转发)。这不仅对函数参数进行了完美转发,以保持其原有的左值或右值属性;也对函数对象本身进行了完美转发。这是因为我们在调用 submit 时,可能会直接传入一个临时Lambda(右值),完美转发可以触发移动语义,避免在 std::bind 内部发生不必要的拷贝操作,提升了效率。

至此,一个轻量级、功能完整的C++线程池就从零开始构建完成了。希望这个详细的实现过程能帮助你更深入地理解线程池的工作原理和现代C++并发工具的使用。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
编程开发
相关文章 更多
islide侧边关了怎么打开侧边栏恢复教程
islide侧边关了怎么打开侧边栏恢复教程

iSlide设计工具侧边栏不见了怎么办?本教程详解在Windows版PPT中通过【设计工具】按钮恢复侧边栏的方法,涵盖面板拖拽、模块隐藏检查及插件加载异常的处理,同时提供macOS用户的使用指引。

Flutter状态管理框架有哪些?常用框架选择指南
Flutter状态管理框架有哪些?常用框架选择指南

全面盘点Flutter主流状态管理框架,深度解析Provider、Riverpod、Bloc与GetX的核心机制、优缺点及适用场景,提供系统化的状态管理选型指南。

netlimiter使用教程详解软件设置方法与操作步骤
netlimiter使用教程详解软件设置方法与操作步骤

新手入门 NetLimiter 必读指南。详解 Activity 实时监控、DL/UL Limit 限速设置、Blocker 阻止规则及 Stats 流量统计功能。图文结合展示规则编辑器操作,助你轻松管理 Windows 应用网络带宽。

linux复制文件并改名命令及操作示例
linux复制文件并改名命令及操作示例

在Linux系统中,复制文件并改名并没有单独的独立命令,而是通过标准复制命令cp在指定目标路径时直接写上新文件名来完成。本文详解cp命令复制并重命名的操作语法、同目录与跨目录示例、常用安全参数及目录复制实践。

blender导出动画贴图怎么设置的详细教程
blender导出动画贴图怎么设置的详细教程

学习如何将Blender中的动态材质导出为图片序列。涵盖输出路径设置、PNG格式选择、帧范围确认及Image Sequence贴图的重新载入方法,适合需要保留透明通道或后期处理的动画贴图工作流。

锁屏启动安装配置要求是什么及安装前检查方法
锁屏启动安装配置要求是什么及安装前检查方法

想在iPhone或iPad上实现锁屏一键直达?本文详解“锁屏启动”的安装前检查清单、系统权限配置步骤及小组件添加方法,解决组件不显示、点击无反应等常见问题,确保快捷指令、网页和App快速启动。

blender hdr渲染设置哔哩哔哩详细操作教程
blender hdr渲染设置哔哩哔哩详细操作教程

学习如何在Blender中使用HDRI进行渲染。通过World着色器连接Environment Texture节点,调整光照强度与环境方向,解决背景显示与曝光问题,快速提升场景真实感。

sql条件判断字符串不包含某个字符串的方法详解
sql条件判断字符串不包含某个字符串的方法详解

深入详解在SQL中进行条件判断字符串不包含某个子串的方法,涵盖标准NOT LIKE、各主流数据库(MySQL、PostgreSQL、SQL Server、Oracle)专有位置函数、正则表达式判断,剖析NULL值三值逻辑陷阱及全表扫描性能优化策略。

IDM安装配置教程及详细操作步骤
IDM安装配置教程及详细操作步骤

新手必读的IDM安装配置教程。从官方下载开始,逐步讲解如何完成Windows安装、启用Chrome/Edge/Firefox浏览器扩展、设置默认保存目录及调整连接线程,解决IDM不弹窗接管下载的常见问题。

linux系统终止进程快捷键是什么及使用方法
linux系统终止进程快捷键是什么及使用方法

全面解析Linux终端中终止进程的核心快捷键(Ctrl+C、Ctrl+Z、Ctrl+\)的原理、区别与具体使用方法,附后台恢复与强制终止全流程指南。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程
PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
Postman macOS版
Postman macOS版
Mac

Postman是一套面向API全生命周期的开发与测试平台,可在Mac上发送和调试多种协议请求,管理集合、环境及认证信息,并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用,提供个人免费方案。

Docker Desktop macOS版
Docker Desktop macOS版
Mac

Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境,集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。

Android Studio macOS版
Android Studio macOS版
Mac

Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境,基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。

WINDOWS 更多
Postman Windows版
Postman Windows版
Windows

Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求,并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等

Docker Desktop Windows版
Docker Desktop Windows版
Windows

Docker Desktop 为 Windows 开发者提供集成式容器环境,内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件,可在本机完成镜像构建、容器运行、日志查看和资源管理。

Android Studio Windows版
Android Studio Windows版
Windows

Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境,以 IntelliJ IDEA 为基础,集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具,