Storm-kafka集成问题

KafkaSpout 消费kafka的时候有设置kafka消费者组这个属性吗？有的话是哪一个属性字段？谢谢

desehawk · 发表于 2017-12-1 11:05:57

有的，消费者可以使用相同的 group.id 加入群组

下面是一个示例：
######################################
消费者群体

消费者可以使用相同的 group.id 加入群组
一个组的最大并行度是组中的消费者数量←不是分区。
Kafka将主题的分区分配给组中的使用者，以便每个分区仅由组中的一个使用者使用。
Kafka保证消息只能被组中的一个消费者读取。
消费者可以按照消息存储在日志中的顺序查看消息。

重新平衡消费者

添加更多进程/线程将导致Kafka重新平衡。如果任何消费者或代理无法向ZooKeeper发送心跳，则可以通过Kafka集群重新配置。在此重新平衡期间，Kafka将分配可用分区到可用线程，可能将分区移动到另一个进程。

import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;

public class ConsumerGroup {
public static void main(String[] args) throws Exception {
   if(args.length < 2){
      System.out.println("Usage: consumer <topic> <groupname>");
      return;
   }

   String topic = args[0].toString();
   String group = args[1].toString();
   Properties props = new Properties();
   props.put("bootstrap.servers", "localhost:9092");
   props.put("group.id", group);
   props.put("enable.auto.commit", "true");
   props.put("auto.commit.interval.ms", "1000");
   props.put("session.timeout.ms", "30000");
   props.put("key.deserializer",
      "org.apache.kafka.common.serializa-tion.StringDeserializer");
   props.put("value.deserializer",
      "org.apache.kafka.common.serializa-tion.StringDeserializer");
   KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);

   consumer.subscribe(Arrays.asList(topic));
   System.out.println("Subscribed to topic " + topic);
   int i = 0;

   while (true) {
      ConsumerRecords<String, String> records = con-sumer.poll(100);
         for (ConsumerRecord<String, String> record : records)
            System.out.printf("offset = %d, key = %s, value = %s\n",
            record.offset(), record.key(), record.value());
   }
}
}

汇编
javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

执行

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":.
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":.
ConsumerGroup <topic-name> my-group

在这里，我们为两个消费者创建了一个示例组名称为 my-group 。同样，您可以在组中创建您的组和消费者数量。

输入

打开生产者CLI并发送一些消息 -

Test consumer group 01
Test consumer group 02

第一个过程的输出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二个过程的输出
Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02