当前位置:

首页 > 编程开发 > Spring Boot怎么整合Kafka

Spring Boot怎么整合Kafka

Kafka Assistant
Kafka Assistant

Kafka Assistant 是一款可视化监控、管理工具,支持 GPU 渲染和实时监控。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。

立即下载
¥19
Windows/macOS/Linux 2026-08-22
正版软件 Windows macOS软件 Linux kafka

步骤一:添加依赖项在pom.xml中添加以下依赖项:org.springframework.kafkaspring-kafka2.8.0步骤二:配置Kafka在application.yml文件中添加以下配置:sping:kafka:bootstrap-servers:localhost:9092consumer:group-id:my-groupauto-offset-reset:earliestproducer:value-serializer:org.apache.kafka.common.seri

本文目录

    步骤一:添加依赖项

    在 pom.xml 中添加以下依赖项:

    
        org.springframework.kafka
        spring-kafka
        2.8.0
    

    步骤二:配置 Kafka

    在 application.yml 文件中添加以下配置:

    sping:
      kafka:
        bootstrap-servers: localhost:9092
        consumer:
          group-id: my-group
          auto-offset-reset: earliest
        producer:
          value-serializer: org.apache.kafka.common.serialization.StringSerializer
          key-serializer: org.apache.kafka.common.serialization.StringSerializer

    这里我们配置了 Kafka 的服务地址为 localhost:9092,配置了一个消费者组 ID 为 my-group,并设置了一个最早的偏移量来读取消息。在生产者方面,我们配置了消息序列化程序为 StringSerializer。

    步骤三:创建一个生产者

    现在,我们将创建一个 Kafka 生产者,用于发送消息到 Kafka 服务器。在这里,我们将创建一个 RESTful 端点,用于接收 POST 请求并将消息发送到 Kafka。

    首先,我们将创建一个 KafkaProducerConfig 类,用于配置 Kafka 生产者:

    @Configuration
    public class KafkaProducerConfig {
        @Value("${spring.kafka.bootstrap-servers}")
        private String bootstrapServers;
        @Bean
        public Map producerConfigs() {
            Map props = new HashMap<>();
            props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
            props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
            props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
            return props;
        }
        @Bean
        public ProducerFactory producerFactory() {
            return new DefaultKafkaProducerFactory<>(producerConfigs());
        }
        @Bean
        public KafkaTemplate kafkaTemplate() {
            return new KafkaTemplate<>(producerFactory());
        }
    }

    在上面的代码中,我们使用 @Configuration 注解将 KafkaProducerConfig 类声明为配置类。然后,我们使用 @Value 注解注入配置文件中的 bootstrap-servers 属性。

    接下来,我们创建了一个 producerConfigs 方法,用于设置 Kafka 生产者的配置。在这里,我们设置了 BOOTSTRAP_SERVERS_CONFIG、KEY_SERIALIZER_CLASS_CONFIG 和 VALUE_SERIALIZER_CLASS_CONFIG 三个属性。

    然后,我们创建了一个 producerFactory 方法,用于创建 Kafka 生产者工厂。在这里,我们使用了 DefaultKafkaProducerFactory 类,并传递了我们的配置。

    最后,我们创建了一个 kafkaTemplate 方法,用于创建 KafkaTemplate 实例。在这里,我们使用了刚刚创建的生产者工厂作为参数,然后返回 KafkaTemplate 实例。

    接下来,我们将创建一个 RESTful 端点,用于接收 POST 请求并将消息发送到 Kafka。在这里,我们将使用 @RestController 注解创建一个 RESTful 控制器:

    @RestController
    public class KafkaController {
        @Autowired
        private KafkaTemplate kafkaTemplate;
        @PostMapping("/send")
        public void sendMessage(@RequestBody String message) {
            kafkaTemplate.send("my-topic", message);
        }
    }

    在上面的代码中,我们使用 @Autowired 注解将 KafkaTemplate 实例注入到 KafkaController 类中。然后,我们创建了一个 sendMessage 方法,用于发送消息到 Kafka。

    在这里,我们使用 kafkaTemplate.send 方法发送消息到 my-topic 主题。send 方法返回一个 ListenableFuture 对象,用于异步处理结果。

    步骤四:创建一个消费者

    现在,我们将创建一个 Kafka 消费者,用于从 Kafka 服务器接收消息。在这里,我们将创建一个消费者组,并将其配置为从 my-topic 主题读取消息。

    首先,我们将创建一个 KafkaConsumerConfig 类,用于配置 Kafka 消费者:

    @Configuration
    @EnableKafka
    public class KafkaConsumerConfig {
        @Value("${spring.kafka.bootstrap-servers}")
        private String bootstrapServers;
        @Value("${spring.kafka.consumer.group-id}")
        private String groupId;
        @Bean
        public Map consumerConfigs() {
            Map props = new HashMap<>();
            props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
            props.put(ConsumerConfig.GROUP_ID_CONFIG, groupId);
            props.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");
            props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
            props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
            return props;
        }
        @Bean
        public ConsumerFactory consumerFactory() {
            return new DefaultKafkaConsumerFactory<>(consumerConfigs());
        }
        @Bean
        public ConcurrentKafkaListenerContainerFactory kafkaListenerContainerFactory() {
            ConcurrentKafkaListenerContainerFactory factory = new ConcurrentKafkaListenerContainerFactory<>();
            factory.setConsumerFactory(consumerFactory());
            return factory;
        }
    }

    在上面的代码中,我们使用 @Configuration 注解将 KafkaConsumerConfig 类声明为配置类,并使用 @EnableKafka 注解启用 Kafka。

    然后,我们使用 @Value 注解注入配置文件中的 bootstrap-servers 和 consumer.group-id 属性。

    接下来,我们创建了一个 consumerConfigs 方法,用于设置 Kafka 消费者的配置。在这里,我们设置了 BOOTSTRAP_SERVERS_CONFIG、GROUP_ID_CONFIG、AUTO_OFFSET_RESET_CONFIG、KEY_DESERIALIZER_CLASS_CONFIG 和 VALUE_DESERIALIZER_CLASS_CONFIG 五个属性。

    然后,我们创建了一个 consumerFactory 方法,用于创建 Kafka 消费者工厂。在这里,我们使用了 DefaultKafkaConsumerFactory 类,并传递了我们的配置。

    最后,我们创建了一个 kafkaListenerContainerFactory 方法,用于创建一个 ConcurrentKafkaListenerContainerFactory 实例。在这里,我们将消费者工厂注入到 kafkaListenerContainerFactory 实例中。

    接下来,我们将创建一个 Kafka 消费者类 KafkaConsumer,用于监听 my-topic 主题并接收消息:

    @Service
    public class KafkaConsumer {
        @KafkaListener(topics = "my-topic", groupId = "my-group-id")
        public void consume(String message) {
            System.out.println("Received message: " + message);
        }
    }

    在上面的代码中,我们使用 @KafkaListener 注解声明了一个消费者方法,用于接收从 my-topic 主题中读取的消息。在这里,我们将消费者组 ID 设置为 my-group-id。

    现在,我们已经完成了 Kafka 生产者和消费者的设置。我们可以使用 mvn spring-boot:run 命令启动应用程序,并使用 curl 命令发送 POST 请求到 http://localhost:8080/send 端点,以将消息发送到 Kafka。然后,我们可以在控制台上查看消费者接收到的消息。这就是使用 Spring Boot 和 Kafka 的基本设置。我们可以根据需要进行更改和扩展,以满足特定的需求。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 kafka
    相关文章 更多
    Kafka在Python中的应用与使用详解
    Kafka在Python中的应用与使用详解

    Kafka是一个高吞吐量分布式发布-订阅消息系统,用于实时数据流处理;Python通过kafka-python等第三方库实现消息生产与消费,支持微服务通信、日志聚合和实时处理等场景。

    Spring Boot整合Kafka消息发布教程
    Spring Boot整合Kafka消息发布教程

    SpringBoot整合Kafka实现消息发布的步骤包括:1.添加Maven或Gradle依赖;2.配置Kafka生产者参数;3.编写服务类使用KafkaTemplate发送消息;4.创建Controller暴露接口;5.注意Kafka服务状态、Topic管理及序列化一致性等问题。具体操作上,首先在pom.xml或build.gradle中引入spring-kafka依赖,然后配置bootstrap-servers、key和value的序列化方式,接着创建KafkaProducerService注入Kaf

    Python流数据处理:Kafka与Spark实战指南
    Python流数据处理:Kafka与Spark实战指南

    Kafka是流数据处理的首选消息队列,1.因为其高吞吐量与低延迟,能应对每秒数百万条消息;2.具备分布式、持久化的提交日志设计,支持数据回溯与多消费者独立消费;3.分区机制实现横向扩展,适应大规模数据;4.提供可靠的数据存储层,增强系统容错性与灵活性。PySpark在流数据处理中扮演“大脑”角色,StructuredStreaming相较于SparkStreaming具有优势:1.采用持续增长无限表模型,简化编程逻辑;2.统一批处理与流处理API,降低学习曲线;3.支持精确一次语义,确保数据一致性;4.内

    在Rocky Linux中安装Apache Kafka的步骤
    在Rocky Linux中安装Apache Kafka的步骤

    在RockyLinux上安装ApacheKafka可以按照以下步骤进行操作:更新系统:首先,确保你的RockyLinux系统是最新的,执行以下命令更新系统软件包:sudoyumupdate安装Java:ApacheKafka依赖于Java,因此需要先安装JavaDevelopmentKit(JDK)。可以通过以下命令安装OpenJDK:sudoyuminstalljava-1.8.0-openjdk-devel下载和解压:访问ApacheKafka官方网站()下载最新的二进制包。选择一个稳定版本并下载压缩

    Kafka 丢消息原因及解决方案
    Kafka 丢消息原因及解决方案

    Kafka是一种高效的分布式消息队列系统,广泛应用于大规模数据处理和流式计算。然而,消息丢失问题是Kafka使用过程中一个严重的隐患,因为它可能导致数据的不连续性和计算结果的准确性下降,从而影响系统的整体功能和运行效率。本文将从多个角度探讨Kafka消息丢失的原因,并简要介绍相应的解决方案和优化策略。硬件故障是导致Kafka消息丢失的常见原因之一。Kafka集群由多个节点组成,每个节点都有自己的硬件设备,如CPU、内存和磁盘。当某个节点发生硬件故障,如电源故障或硬盘损坏,存储在该节点上的

    如何在PHP中使用Apache Kafka函数
    如何在PHP中使用Apache Kafka函数

    ApacheKafka是一个开源的、分布式的流处理平台,也是一种分布式消息系统,可以实现高吞吐量、可靠的数据传输和处理。在网络应用开发中,很多场景都需要使用消息队列来进行异步处理,而Kafka就是消息队列中的一种,由于其高性能、高可靠性、可扩展性等特点,越来越被广泛应用于各种领域。在PHP中使用Kafka,需要通过PHP扩展库librdkafka进行操作。

    springBoot项目常用目录有哪些
    springBoot项目常用目录有哪些

    springBoot项目常用目录springBoot项目的目录结构及名规范介绍基于SpringBoot开发时的目录结构及命名规范,通过介绍能够为你解决,在实际项目中如何规划目录结构?如何命名目录更规范?各个目录分别代表什么含义?等三个问题。目录说明servicex//项目名|-admin-ui//管理服务前端代码(一般将UI和SERVICE放到一个工程中,便于管理)|-servicex-auth//模块1|-servicex-common//模块2|-servicex-gateway//模块3|-serv

    如何使用PHP和Kafka实现实时工业数据采集和分析
    如何使用PHP和Kafka实现实时工业数据采集和分析

    在当今工业领域中,数据采集和实时分析已经成为了企业竞争力的重要组成部分。而PHP和Kafka是两个非常常见的实现实时工业数据采集和分析的技术。本文将介绍如何使用PHP和Kafka实现实时工业数据采集和分析。一、Kafka基础Kafka是一种分布式流式处理平台,它可以将实时数据流进行高效的持久化和分发,同时也支持高容错性。Kafka存储和处理流数据时,采用

    如何使用PHP和Kafka实现实时游戏数据分析
    如何使用PHP和Kafka实现实时游戏数据分析

    随着游戏市场的蓬勃发展,游戏数据分析逐渐成为了游戏开发者和运营者必不可少的环节。实时游戏数据分析的重要性在于能够帮助开发者和运营者在第一时间内了解游戏的表现和玩家行为,及时发现问题并采取有效的解决方案。为了实现实时游戏数据分析,我们可以使用PHP和Kafka这两个工具。PHP作为一种流行的后端编程语言,具备很高的灵活性和可扩展性,实现起来也很简单。而Kafk

    学习如何使用PHP和Kafka进行消息传递
    学习如何使用PHP和Kafka进行消息传递

    PHP是一种流行的编程语言,常用于服务器端开发和Web应用程序开发。Kafka是一种分布式消息系统,可用于管理大规模的消息传递。本文将介绍如何使用PHP和Kafka进行消息传递。首先,我们需要安装一些必要的工具和库。在Linux上,我们可以使用以下命令:sudoapt-getinstallphp-zmqlibrdkafka-dev如果您使用的是Win

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?