为了账号安全,请及时绑定邮箱和手机立即绑定

Apache Kafka -6 消费者示例

标签:
大数据

Apache Kafka教程  之 Apache Kafka - 消费者示例

webp

http://blogxinxiucan.sh1.newtouch.com/

原文地址: http://blogxinxiucan.sh1.newtouch.com/2017/07/13/Apache-Kafka-消费者示例/

Apache Kafka - 消费者示例(Consumer Group)

Consumer Group是从kafka Topic的多线程或多机器消费。

Consumer Group

  • 消费者可以使用相同的group.id加入Group

  • 组中的最大并行度是组中的消费者数量不是分区。

  • kafka将一个 Topic的分区分配给组中的消费者,以便每个分区由组中的一个消费者消耗。

  • kafka保证消息只能由组内的单个消费者读取。

  • 消费者可以按照日志中存储的顺序查看消息。

重新平衡消费者

添加更多进程/线程将导致kafka重新平衡。如果任何消费者或broker无法向ZooKeeper发送心跳信息,则可以通过Kafka群集重新配置。在此重新平衡过程中,Kafka会将可用的分区分配给可用的线程,可能将分区移动到另一个进程。

import java.util.Properties;import java.util.Arrays;import org.apache.kafka.clients.consumer.KafkaConsumer;import org.apache.kafka.clients.consumer.ConsumerRecords;import org.apache.kafka.clients.consumer.ConsumerRecord;public class ConsumerGroup {   public static void main(String[] args) throws Exception {      if(args.length < 2){
         System.out.println("Usage: consumer <topic> <groupname>");         return;
      }
      
      String topic = args[0].toString();
      String group = args[1].toString();
      Properties props = new Properties();
      props.put("bootstrap.servers", "localhost:9092");
      props.put("group.id", group);
      props.put("enable.auto.commit", "true");
      props.put("auto.commit.interval.ms", "1000");
      props.put("session.timeout.ms", "30000");
      props.put("key.deserializer",          
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      props.put("value.deserializer", 
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
      
      consumer.subscribe(Arrays.asList(topic));
      System.out.println("Subscribed to topic " + topic);      int i = 0;         
      while (true) {
         ConsumerRecords<String, String> records = con-sumer.poll(100);            for (ConsumerRecord<String, String> record : records)
               System.out.printf("offset = %d, key = %s, value = %s\n", 
               record.offset(), record.key(), record.value());
      }     
   }  
}

汇编

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

执行

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group

在这里,我们创建了一个示例组名称作为我的组与两个消费者。同样,您可以创建组中的组和消费者数量。

输入
打开生产者CLI并发送一些消息,如 -

Test consumer group 01
Test consumer group 02

第一个过程的输出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二过程的产出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02

现在希望您将通过使用Java客户端演示了解SimpleConsumerConsumeGroup。现在您了解如何使用Java客户端发送和接收消息。



作者:全能程序猿
链接:https://www.jianshu.com/p/d5282445a05c


点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号

举报

0/150
提交
取消