Apache Kafka 消费者组示例

消费者组是来自 Kafka 主题的多线程或多机消费。

消费群

• 消费者可以使用相同的方式加入群组

• 组的最大并行度是组中的消费者数←分区数。

• Kafka 将主题的分区分配给组中的消费者，以便每个分区仅被组中的一个消费者消费。

• Kafka 保证消息只能被组中的单个消费者读取。

• 消费者可以按照消息在日志中的存储顺序查看消息。

消费者的再平衡

添加更多进程/线程将导致 Kafka 重新平衡。如果任何消费者或代理未能向 ZooKeeper 发送心跳，则可以通过 Kafka 集群对其进行重新配置。在此重新平衡期间，Kafka 会将可用分区分配给可用线程，可能会将分区移动到另一个进程。

import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;

public class ConsumerGroup {
    public static void main(String[] args) throws Exception {
        if(args.length < 2){
            System.out.println("Usage: consumer <topic> <groupname>");
            return;
        }
      
        String topic = args[0].toString();
        String group = args[1].toString();
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("group.id", group);
        props.put("enable.auto.commit", "true");
        props.put("auto.commit.interval.ms", "1000");
        props.put("session.timeout.ms", "30000");
        props.put("key.deserializer",
            "org.apache.kafka.common.serialization.ByteArraySerializer");
        props.put("value.deserializer",
            "org.apache.kafka.common.serializa-tion.StringDeserializer");
        KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
      
        consumer.subscribe(Arrays.asList(topic));
        System.out.println("Subscribed to topic " + topic);
        int i = 0;
         
        while (true) {
            ConsumerRecords<String, String> records = consumer.poll(100);
                for (ConsumerRecord<String, String> record : records)
                    System.out.printf("offset = %d, key = %s, value = %s\n",
                    record.offset(), record.key(), record.value());
        }
    }
}

编译

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

执行

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group

在这里，我们创建了一个示例组名称为有两个消费者。同样，你可以创建你的组和组中的消费者数量。

输入

打开 producer CLI 并发送一些消息，例如：

Test consumer group 01
Test consumer group 02

第一个过程的输出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二个过程的输出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02

现在希望你通过使用 Java 客户端演示能够理解 SimpleConsumer 和 ConsumeGroup。现在你已经了解了如何使用 Java 客户端发送和接收消息。让我们在下一章继续 Kafka 与大数据技术的集成。