当前位置:

首页 > 编程开发 > SpringBoot+Disruptor实现特快高并发处理

SpringBoot+Disruptor实现特快高并发处理

01、背景 最近在项目里用到了Disruptor做消息队列——没错,你没看错,不是Kafka,也不是RabbitMQ。Disruptor最大的一个特点,就是快。当然,它还是开源的。这篇文章,就带你快速认识一下它,并记录一个基础的入门示例。 02、Disruptor 介绍 先来聊聊Disruptor的

本文目录

    01、背景

    最近在项目里用到了Disruptor做消息队列——没错,你没看错,不是Kafka,也不是RabbitMQ。Disruptor最大的一个特点,就是快。当然,它还是开源的。这篇文章,就带你快速认识一下它,并记录一个基础的入门示例。

    02、Disruptor 介绍

    先来聊聊Disruptor的来头。它可不是凭空冒出来的,而是有深厚的“实战血统”:

    1. 它出身于英国的外汇交易公司LMAX,最初就是为了解决内存队列的延迟问题而生的。有意思的是,团队在性能测试中发现,它的延迟竟然能和I/O操作处于同一个数量级。基于它构建的系统,单线程就能轻松扛住每秒600万笔订单。2010年在QCon大会上一经亮相,就迅速吸引了业界的目光。
    2. 简单来说,Disruptor是一个开源的Ja va框架,它的核心设计目标,就是在经典的生产者-消费者问题上,追求极致的吞吐量和最低的延迟。
    3. 从功能上看,它确实实现了“队列”的功能,而且是一个有界队列。所以,它的应用场景自然就是那些典型的“生产者-消费者”模型了。
    4. 除了是LMAX在线交易平台的核心引擎,让订单处理飙到600万TPS之外,Disruptor在金融领域之外也大有可为。任何对性能有苛刻要求的应用,引入它都可能带来显著的提升。
    5. 其实,与其说Disruptor是一个框架,不如说它代表了一种高性能的设计思路。但凡你的程序里涉及“并发、缓冲区、生产者-消费者模型、事务处理”这些元素,Disruptor都提供了一套大幅提升TPS的成熟方案。

    03、Disruptor 的核心概念

    理解Disruptor,得从它的核心概念入手。下面这些概念,既是领域模型,也直接对应着代码中的核心对象,弄懂了它们,就明白了Disruptor是如何运转的。

    04、Ring Buffer

    顾名思义,环形缓冲区。在早期版本中,RingBuffer是绝对的主角,但从3.0开始,它的职责被精简了——现在它只负责存储和更新通过Disruptor交换的数据(也就是事件)。在一些更高级的玩法中,你甚至可以用自己的实现来完全替换掉它。

    05、Sequence Disruptor

    Disruptor通过一个单调递增的序号来管理所有交换的数据。整个处理流程,就是沿着这个序号逐个推进的。Sequence对象用来跟踪特定事件处理者(比如RingBuffer或某个Consumer)的处理进度。你可能会问,用AtomicLong不行吗?当然可以,但Disruptor专门定义Sequence,还有一个更重要的目的:防止不同Sequence之间发生CPU缓存伪共享(False Sharing)问题。这可是Disruptor实现高性能的一个关键窍门。(关于伪共享,网上资料很多,这里就不展开了。)

    06、Sequencer

    Sequencer才是Disruptor真正的核心。这个接口有两个实现类:SingleProducerSequencer和MultiProducerSequencer。它们定义了一套精妙的并发算法,确保数据能在生产者和消费者之间既快速又正确地传递。

    07、Sequence Barrier

    你可以把它看作一个“协调员”。它持有对RingBuffer主发布序列(Sequence)以及当前消费者所依赖的其他消费者Sequence的引用。同时,Sequence Barrier还定义了判断消费者是否还有事件可处理的逻辑。

    08、Wait Strategy

    等待策略。它决定了消费者如何等待下一个事件的到来。Disruptor非常贴心地提供了多种策略,比如阻塞等待、忙等待等,针对不同的业务场景,你可以选择最适合的那一个,以达到最佳的性能表现。

    09、Event

    在Disruptor的语境里,生产者和消费者之间流通的数据就叫事件(Event)。需要注意的是,Disruptor本身并没有规定Event的具体类型,它完全由使用者来定义。

    10、EventProcessor

    EventProcessor持有特定消费者的Sequence,并提供了一个事件循环(Event Loop),这个循环会负责调用你实现的事件处理逻辑。

    11、EventHandler

    这是Disruptor定义的事件处理接口,需要由用户来实现。你的核心业务逻辑就写在这里,它是消费者功能的真正体现。

    12、Producer

    生产者,泛指所有调用Disruptor发布事件的用户代码。Disruptor很灵活,没有为此定义任何特定的接口或类型。

    SpringBoot+Disruptor实现特快高并发处理

    上面这张图,清晰地勾勒出了Disruptor这些核心概念之间的关系,值得多看两眼。

    13、案例-demo

    理论说了这么多,是时候动手了。下面通过8个步骤,带你快速把Disruptor“请”进你的SpringBoot项目。

    1、添加 pom.xml 依赖

    
        com.lmax
        disruptor
        3.3.4
    

    2、消息体 Model

    /**
     * 消息体
     */
    @Data
    public class MessageModel {
        private String message;
    }
    

    3、构造 EventFactory

    public class HelloEventFactory implements EventFactory {
        @Override
        public MessageModel newInstance() {
            return new MessageModel();
        }
    }
    

    4、构造 EventHandler - 消费者

    @Slf4j
    publicclass HelloEventHandler implements EventHandler {
        @Override
        public void onEvent(MessageModel event, long sequence, boolean endOfBatch) {
            try {
                //这里停止1000ms是为了确定消费消息是异步的
                Thread.sleep(1000);
                log.info("消费者处理消息开始");
                if (event != null) {
                    log.info("消费者消费的信息是:{}",event);
                }
            } catch (Exception e) {
                log.info("消费者处理消息失败");
            }
            log.info("消费者处理消息结束");
        }
    }
    

    5、构造 BeanManager

    /**
     * 获取实例化对象
     */
    @Component
    publicclass BeanManager implements ApplicationContextAware {
    
        privatestatic ApplicationContext applicationContext = null;
    
        @Override
        public void setApplicationContext(ApplicationContext applicationContext) throws BeansException {
            this.applicationContext = applicationContext;
        }
    
        public static ApplicationContext getApplicationContext() { return applicationContext; }
    
        public static Object getBean(String name) {
            return applicationContext.getBean(name);
        }
    
        publicstatic  T getBean(Class clazz) {
            return applicationContext.getBean(clazz);
        }
    }
    

    6、构造 MQManager

    @Configuration
    publicclass MQManager {
    
        @Bean("messageModel")
        public RingBuffer messageModelRingBuffer() {
            //定义用于事件处理的线程池,Disruptor通过ja va.util.concurrent.ExecutorSerivce提供的线程来触发consumer的事件处理
            ExecutorService executor = Executors.newFixedThreadPool(2);
    
            //指定事件工厂
            HelloEventFactory factory = new HelloEventFactory();
    
            //指定ringbuffer字节大小,必须为2的N次方(能将求模运算转为位运算提高效率),否则将影响效率
            int bufferSize = 1024 * 256;
    
            //单线程模式,获取额外的性能
            Disruptor disruptor = new Disruptor<>(factory, bufferSize, executor,
                    ProducerType.SINGLE, new BlockingWaitStrategy());
    
            //设置事件业务处理器---消费者
            disruptor.handleEventsWith(new HelloEventHandler());
    
            // 启动disruptor线程
            disruptor.start();
    
            //获取ringbuffer环,用于接取生产者生产的事件
            RingBuffer ringBuffer = disruptor.getRingBuffer();
    
            return ringBuffer;
        }
    }
    

    7、构造 Mqservice 和实现类 - 生产者

    public interface DisruptorMqService {
    
        /**
         * 消息
         * @param message
         */
        void sayHelloMq(String message);
    }
    
    @Slf4j
    @Component
    @Service
    publicclass DisruptorMqServiceImpl implements DisruptorMqService {
    
        @Autowired
        private RingBuffer messageModelRingBuffer;
    
    
        @Override
        public void sayHelloMq(String message) {
            log.info("record the message: {}",message);
            //获取下一个Event槽的下标
            long sequence = messageModelRingBuffer.next();
            try {
                //给Event填充数据
                MessageModel event = messageModelRingBuffer.get(sequence);
                event.setMessage(message);
                log.info("往消息队列中添加消息:{}", event);
            } catch (Exception e) {
                log.error("failed to add event to messageModelRingBuffer for : e = {},{}",e,e.getMessage());
            } finally {
                //发布Event,激活观察者去消费,将sequence传递给改消费者
                //注意最后的publish方法必须放在finally中以确保必须得到调用;如果某个请求的sequence未被提交将会堵塞后续的发布操作或者其他的producer
                messageModelRingBuffer.publish(sequence);
            }
        }
    }
    

    8、构造测试类及方法

    @Slf4j
    @RunWith(SpringRunner.class)
    @SpringBootTest(classes = DemoApplication.class)
    public class DemoApplicationTests {
    
        @Autowired
        private DisruptorMqService disruptorMqService;
        /**
         * 项目内部使用Disruptor做消息队列
         * @throws Exception
         */
        @Test
        public void sayHelloMqTest() throws Exception{
            disruptorMqService.sayHelloMq("消息到了,Hello world!");
            log.info("消息队列已发送完毕");
            //这里停止2000ms是为了确定是处理消息是异步的
            Thread.sleep(2000);
        }
    }
    

    运行测试,控制台输出如下,可以看到生产者发布消息和消费者处理消息是异步进行的:

    2020-04-05 14:31:18.543  INFO 7274 --- [           main] c.e.u.d.d.s.Impl.DisruptorMqServiceImpl  : record the message: 消息到了,Hello world!
    2020-04-05 14:31:18.545  INFO 7274 --- [           main] c.e.u.d.d.s.Impl.DisruptorMqServiceImpl  : 往消息队列中添加消息:MessageModel(message=消息到了,Hello world!)
    2020-04-05 14:31:18.545  INFO 7274 --- [           main] c.e.utils.demo.DemoApplicationTests      : 消息队列已发送完毕
    2020-04-05 14:31:19.547  INFO 7274 --- [pool-1-thread-1] c.e.u.d.disrupMq.mq.HelloEventHandler    : 消费者处理消息开始
    2020-04-05 14:31:19.547  INFO 7274 --- [pool-1-thread-1] c.e.u.d.disrupMq.mq.HelloEventHandler    : 消费者消费的信息是:MessageModel(message=消息到了,Hello world!)
    2020-04-05 14:31:19.547  INFO 7274 --- [pool-1-thread-1] c.e.u.d.disrupMq.mq.HelloEventHandler    : 消费者处理消息结束
    

    14、总结

    说到底,生产者-消费者模式并不稀奇,用常见的消息队列也能轻松实现。那么Disruptor的独特价值在哪呢?关键在于,它是在内存中实现了一个无锁的环形队列。正是这个“内存级”和“无锁”的设计,让它拥有了碾压传统方案的高性能。

    希望这篇SpringBoot整合Disruptor的入门指南,能帮你打开高性能队列开发的新思路。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发
    相关文章 更多
    GitHub六个AI开源项目能做什么?软件理解、语音与求职场景
    GitHub六个AI开源项目能做什么?软件理解、语音与求职场景

    解析六个GitHub AI开源项目的具体用途,包括软件静态分析、智能体回答检查、多语言配音、求职材料生成、本地代码检索及动态歌词展示,帮助开发者根据实际需求筛选工具并正确验证结果。

    opencode安装skills教程及本地配置方法
    opencode安装skills教程及本地配置方法

    遇到OpenCode Skills无法加载或配置无效?本文手把手教你完成Skills的安装、环境变量设置及本地调试,避开常见坑点,让AI助手更懂你的代码习惯。

    如何开启Visual Studio2022实时代码分析警告提示
    如何开启Visual Studio2022实时代码分析警告提示

    解决 Visual Studio 2022 编辑时不显示代码分析警告的问题。指南涵盖 .NET 项目实时分析设置、Roslyn 分析器范围调整及错误列表来源筛选,确保开发者能高效利用实时代码诊断功能。

    如何在Visual Studio2022查看变量监视窗口调试程序
    如何在Visual Studio2022查看变量监视窗口调试程序

    详解 Visual Studio 2022 调试技巧:包括断点设置、监视窗口开启方法、变量添加步骤以及通过 F10 单步执行观察变量值变化的全过程。

    Visual Studio2017设置默认编码为UTF-8不带BOM
    Visual Studio2017设置默认编码为UTF-8不带BOM

    针对 Visual Studio 2017 缺乏全局默认编码选项的情况,详解如何利用 .editorconfig 设定项目级 UTF-8 无 BOM 规则,以及手动转换现有文件并校验字节的方法。

    Visual Studio2022F5调试提示启动项目未配置怎么修复
    Visual Studio2022F5调试提示启动项目未配置怎么修复

    解决 Visual Studio 2022 F5 调试报错问题,通过设置启动项目、检查解决方案属性及正确区分类库与应用项目,快速恢复调试功能。

    Visual Studio2022NuGet包还原失败离线处理方案
    Visual Studio2022NuGet包还原失败离线处理方案

    解决Visual Studio 2022离线环境中NuGet包还原失败的难题,涵盖依赖链分析、本地源配置、包集收集及隔离验证步骤,帮助开发者构建稳定的离线开发环境。

    Visual Studio2017大项目加载缓慢,优化加载性能技巧
    Visual Studio2017大项目加载缓慢,优化加载性能技巧

    解决Visual Studio 2017大型项目加载慢的实用指南。涵盖性能监测、扩展管理、文档恢复优化及版本兼容性检查,帮助开发者精准定位瓶颈并提升工作效率。

    Visual Studio2022设置多启动项目同时调试运行
    Visual Studio2022设置多启动项目同时调试运行

    详解 Visual Studio 2022 多启动项目配置方法,包括启动动作选择、顺序调整及调试技巧,帮助开发者高效调试分布式或前后端分离应用。

    fastapi下载文件接口实现教程
    fastapi下载文件接口实现教程

    深入解析在FastAPI框架中实现文件下载接口的完整方案,涵盖基于FileResponse的本地静态文件传输、基于StreamingResponse的分块流式传输、RFC 5987中文文件名编码规范、路径穿越安全防御及BackgroundTasks临时文件清理,并配备详细代码示例与架构解析图。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。