java往kafka写数据

Java中Kafka的简介

Kafka是一个分布式流处理平台，由LinkedIn开发并于2011年贡献给了Apache，它具有高吞吐量、低延迟和可扩展性等特点，广泛应用于实时数据流处理、日志收集和分析等场景，在Java中使用Kafka,我们需要借助Kafka客户端库，如kafka-clients或者Spring Kafka等。

Java中Kafka的基本概念

1、Topic:主题是Kafka中的一个逻辑概念，用于对消息进行分类，生产者将消息发送到指定的主题，消费者从指定的主题订阅消息。

2、Partition:分区是Kafka中的一个物理概念，用于将主题的消息分散到多个Broker上，每个分区都是有序的，消费者可以并行消费不同分区的消息，提高消费性能。

3、Offset:偏移量是Kafka中用于记录消息在分区中的位置，每条消息都有一个唯一的偏移量，生产者和消费者可以通过调整偏移量来控制消息的消费进度。

4、Producer:生产者是负责发送消息到Kafka的应用程序，它可以使用Kafka提供的API创建消息，并将其发送到指定的主题和分区。

5、Consumer:消费者是从Kafka接收消息的应用程序，它可以从指定的主题订阅消息，并对消息进行处理，消费者可以并行消费多个分区的消息，提高处理性能。

Java中Kafka的安装与配置

1、下载Kafka:访问Kafka官网(https://kafka.apache.org/downloads)下载最新版本的Kafka，解压下载的文件，进入解压后的目录。

2、启动Zookeeper:Kafka依赖于Zookeeper来保存元数据信息，因此需要先启动Zookeeper，在命令行中执行以下命令启动Zookeeper:

bin/zookeeper-server-start.sh config/zookeeper.properties

3、启动Kafka:在另一个命令行窗口中，执行以下命令启动Kafka:

bin/kafka-server-start.sh config/server.properties

config/server.properties文件包含了Kafka的配置信息，如日志路径、端口号等，可以根据实际需求修改该文件中的配置参数。

Java中Kafka的使用方法(以使用kafka-clients为例)

1、添加依赖：在项目的pom.xml文件中添加kafka-clients的依赖：

<dependency>
    <groupId>org.apache.kafka</groupId>
    <artifactId>kafka-clients</artifactId>
    <version>2.8.0</version>
</dependency>

2、创建生产者：使用KafkaProducer类创建生产者对象，设置相关参数，如bootstrap.servers(连接的Broker地址)、key.serializer(键的序列化器)和value.serializer(值的序列化器)，然后调用produce方法发送消息。

import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.Producer;
import org.apache.kafka.clients.producer.ProducerRecord;
import java.util.Properties;
public class KafkaProducerExample {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        Producer<String, String> producer = new KafkaProducer<>(props);
        for (int i = 0; i < 100; i++) {
            producer.send(new ProducerRecord<String, String>("my-topic", Integer.toString(i), Integer.toString(i)));
        }
        producer.close();
    }
}

3、创建消费者：使用KafkaConsumer类创建消费者对象，设置相关参数，如bootstrap.servers(连接的Broker地址)、groupid(消费者组ID)和key.deserializer(键的反序列化器)，然后调用subscribe方法订阅主题，再调用poll方法获取消息。

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import java.time.Duration;
import java.util.Collections;
import java.util.Properties;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.TimeUnit;
public class KafkaConsumerExample {
    public static void main(String[] args) throws Exception {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("groupid", "test");
        props.put("enable.auto.commit", "true");
        props.put("auto.commit.interval.ms", "1000");
        props.put("key.deserializer", "org.apache.kafka