当前位置:

首页 > 编程开发 > springboot项目配置多个kafka的示例代码

springboot项目配置多个kafka的示例代码

Kafka Assistant
Kafka Assistant

Kafka Assistant 是一款可视化监控、管理工具,支持 GPU 渲染和实时监控。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。

立即下载
¥19
Windows/macOS/Linux 2026-08-22
正版软件 Windows macOS软件 Linux kafka

1.spring-kafkaorg.springframework.kafkaspring-kafka1.3.5.RELEASE2.配置文件相关信息kafka.bootstrap-servers=localhost:9092kafka.consumer.group.id=20230321#可以并发消费的线程数(通常与partition数量一致)kafka.consumer.concurrency=10kafka.consumer.enable.auto.commit=falsekafka.bootstra

本文目录

    1.spring-kafka

    
       org.springframework.kafka
       spring-kafka
       1.3.5.RELEASE
    

    2.配置文件相关信息

    kafka.bootstrap-servers=localhost:9092
    kafka.consumer.group.id=20230321
    #可以并发消费的线程数 (通常与partition数量一致)
    kafka.consumer.concurrency=10
    kafka.consumer.enable.auto.commit=false
            
    kafka.bootstrap-servers.pic=localhost:29092
    kafka.consumer.group.id.pic=20230322_pic
    kafka.consumer.concurrency.pic=10
    kafka.consumer.enable.auto.commit.pic=false

    3.kafka配置类

    @Configuration
    @EnableKafka
    public class KafkaConsumerConfig {
    
        @Value("${kafka.consumer.group.id}")
        private String groupId;
    
        @Value("${kafka.consumer.concurrency}")
        private int concurrency;
    
        @Value("${kafka.consumer.enable.auto.commit}")
        private String autoCommit;
    
        @Value("${kafka.bootstrap-servers}")
        private String bootstrapServer;
    
    
        @Value("${kafka.consumer.group.id.pic}")
        private String groupIdPic;
    
        @Value("${kafka.consumer.concurrency.pic}")
        private int concurrencyPic;
    
        @Value("${kafka.consumer.enable.auto.commit.pic}")
        private String autoCommitPic;
    
        @Value("${kafka.bootstrap-servers.pic}")
        private String bootstrapServerPic;
    
    
        @Bean
        public ConsumerFactory consumerFactory() {
            String bootstrapServers = bootstrapServer;
            Map configProps = new HashMap<>(16);
            configProps.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
            configProps.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
            configProps.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
            configProps.put(ConsumerConfig.GROUP_ID_CONFIG, groupId);
            configProps.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, autoCommit);
            return new DefaultKafkaConsumerFactory<>(configProps);
        }
    
     
        @Bean
        public ConcurrentKafkaListenerContainerFactory kafkaListenerContainerFactory() {
            ConcurrentKafkaListenerContainerFactory factory =
                    new ConcurrentKafkaListenerContainerFactory<>();
            factory.setConsumerFactory(consumerFactory());
            factory.setConcurrency(concurrency);
            factory.getContainerProperties().setAckMode(AbstractMessageListenerContainer.AckMode.MANUAL_IMMEDIATE);
            return factory;
        }
    
    
    
    
        @Bean
        public ConsumerFactory consumerFactoryPic() {
            String bootstrapServers = bootstrapServerPic;
            Map configProps = new HashMap<>(16);
            configProps.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
            configProps.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
            configProps.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
            configProps.put(ConsumerConfig.GROUP_ID_CONFIG, groupIdPic);
            configProps.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, autoCommitPic);
            return new DefaultKafkaConsumerFactory<>(configProps);
        }
    
    
        @Bean
        public ConcurrentKafkaListenerContainerFactory kafkaListenerContainerFactoryPic() {
            ConcurrentKafkaListenerContainerFactory factory =
                    new ConcurrentKafkaListenerContainerFactory<>();
            factory.setConsumerFactory(consumerFactoryPic());
            factory.setConcurrency(concurrencyPic);
            factory.getContainerProperties().setAckMode(AbstractMessageListenerContainer.AckMode.MANUAL_IMMEDIATE);
            return factory;
        }
    }

    4.消费主题消息

    @KafkaListener(topics = "xxxxx", containerFactory = "kafkaListenerContainerFactoryPic")
        public void receive(ConsumerRecord message, Acknowledgment ack) {
            try {
                String jsonString = message.value();
                if (StringUtils.isNoneBlank(jsonString)) {
                    log.info("消费:{}",jsonString);
                    //TODO ....
                }
            } catch (Exception e) {
                log.error(" receive topic error ", e);
            } finally {
                ack.acknowledge();
            }
        }
    
    @KafkaListener(topics = "xxxxxx", containerFactory = "kafkaListenerContainerFactory")
        public void receive(ConsumerRecord message, Acknowledgment ack) {
            try {
                if (StringUtils.isNoneBlank(message.value())) {
                      //TODO ....
                }
            } catch (Exception e) {
                logger.error(" receive topic error ", e);
            } finally {
                ack.acknowledge();
            }
        }
    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 kafka
    相关文章 更多
    Kafka在Python中的应用与使用详解
    Kafka在Python中的应用与使用详解

    Kafka是一个高吞吐量分布式发布-订阅消息系统,用于实时数据流处理;Python通过kafka-python等第三方库实现消息生产与消费,支持微服务通信、日志聚合和实时处理等场景。

    Spring Boot整合Kafka消息发布教程
    Spring Boot整合Kafka消息发布教程

    SpringBoot整合Kafka实现消息发布的步骤包括:1.添加Maven或Gradle依赖;2.配置Kafka生产者参数;3.编写服务类使用KafkaTemplate发送消息;4.创建Controller暴露接口;5.注意Kafka服务状态、Topic管理及序列化一致性等问题。具体操作上,首先在pom.xml或build.gradle中引入spring-kafka依赖,然后配置bootstrap-servers、key和value的序列化方式,接着创建KafkaProducerService注入Kaf

    Python流数据处理:Kafka与Spark实战指南
    Python流数据处理:Kafka与Spark实战指南

    Kafka是流数据处理的首选消息队列,1.因为其高吞吐量与低延迟,能应对每秒数百万条消息;2.具备分布式、持久化的提交日志设计,支持数据回溯与多消费者独立消费;3.分区机制实现横向扩展,适应大规模数据;4.提供可靠的数据存储层,增强系统容错性与灵活性。PySpark在流数据处理中扮演“大脑”角色,StructuredStreaming相较于SparkStreaming具有优势:1.采用持续增长无限表模型,简化编程逻辑;2.统一批处理与流处理API,降低学习曲线;3.支持精确一次语义,确保数据一致性;4.内

    在Rocky Linux中安装Apache Kafka的步骤
    在Rocky Linux中安装Apache Kafka的步骤

    在RockyLinux上安装ApacheKafka可以按照以下步骤进行操作:更新系统:首先,确保你的RockyLinux系统是最新的,执行以下命令更新系统软件包:sudoyumupdate安装Java:ApacheKafka依赖于Java,因此需要先安装JavaDevelopmentKit(JDK)。可以通过以下命令安装OpenJDK:sudoyuminstalljava-1.8.0-openjdk-devel下载和解压:访问ApacheKafka官方网站()下载最新的二进制包。选择一个稳定版本并下载压缩

    Kafka 丢消息原因及解决方案
    Kafka 丢消息原因及解决方案

    Kafka是一种高效的分布式消息队列系统,广泛应用于大规模数据处理和流式计算。然而,消息丢失问题是Kafka使用过程中一个严重的隐患,因为它可能导致数据的不连续性和计算结果的准确性下降,从而影响系统的整体功能和运行效率。本文将从多个角度探讨Kafka消息丢失的原因,并简要介绍相应的解决方案和优化策略。硬件故障是导致Kafka消息丢失的常见原因之一。Kafka集群由多个节点组成,每个节点都有自己的硬件设备,如CPU、内存和磁盘。当某个节点发生硬件故障,如电源故障或硬盘损坏,存储在该节点上的

    如何在PHP中使用Apache Kafka函数
    如何在PHP中使用Apache Kafka函数

    ApacheKafka是一个开源的、分布式的流处理平台,也是一种分布式消息系统,可以实现高吞吐量、可靠的数据传输和处理。在网络应用开发中,很多场景都需要使用消息队列来进行异步处理,而Kafka就是消息队列中的一种,由于其高性能、高可靠性、可扩展性等特点,越来越被广泛应用于各种领域。在PHP中使用Kafka,需要通过PHP扩展库librdkafka进行操作。

    springBoot项目常用目录有哪些
    springBoot项目常用目录有哪些

    springBoot项目常用目录springBoot项目的目录结构及名规范介绍基于SpringBoot开发时的目录结构及命名规范,通过介绍能够为你解决,在实际项目中如何规划目录结构?如何命名目录更规范?各个目录分别代表什么含义?等三个问题。目录说明servicex//项目名|-admin-ui//管理服务前端代码(一般将UI和SERVICE放到一个工程中,便于管理)|-servicex-auth//模块1|-servicex-common//模块2|-servicex-gateway//模块3|-serv

    如何使用PHP和Kafka实现实时工业数据采集和分析
    如何使用PHP和Kafka实现实时工业数据采集和分析

    在当今工业领域中,数据采集和实时分析已经成为了企业竞争力的重要组成部分。而PHP和Kafka是两个非常常见的实现实时工业数据采集和分析的技术。本文将介绍如何使用PHP和Kafka实现实时工业数据采集和分析。一、Kafka基础Kafka是一种分布式流式处理平台,它可以将实时数据流进行高效的持久化和分发,同时也支持高容错性。Kafka存储和处理流数据时,采用

    如何使用PHP和Kafka实现实时游戏数据分析
    如何使用PHP和Kafka实现实时游戏数据分析

    随着游戏市场的蓬勃发展,游戏数据分析逐渐成为了游戏开发者和运营者必不可少的环节。实时游戏数据分析的重要性在于能够帮助开发者和运营者在第一时间内了解游戏的表现和玩家行为,及时发现问题并采取有效的解决方案。为了实现实时游戏数据分析,我们可以使用PHP和Kafka这两个工具。PHP作为一种流行的后端编程语言,具备很高的灵活性和可扩展性,实现起来也很简单。而Kafk

    学习如何使用PHP和Kafka进行消息传递
    学习如何使用PHP和Kafka进行消息传递

    PHP是一种流行的编程语言,常用于服务器端开发和Web应用程序开发。Kafka是一种分布式消息系统,可用于管理大规模的消息传递。本文将介绍如何使用PHP和Kafka进行消息传递。首先,我们需要安装一些必要的工具和库。在Linux上,我们可以使用以下命令:sudoapt-getinstallphp-zmqlibrdkafka-dev如果您使用的是Win

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?