原文:Java API获取consumer group最新提交位移的时间

碰到了有人问起这个问题,目前java consumer没有利用OffsetAndMetadata中的metadata字段记录提交的时间,故直接通过java consumer来查询是不行,我们需要直接读取 consumer offsets,代码如下: public static long lastCommitTimestamp String groupName, String bootstrapSe ...

2019-01-03 11:52 14 864 推荐指数:

查看详情

Kafka consumer group位移重设

  本文阐述如何使用Kafka自带的kafka-consumer-groups.sh脚本随意设置消费者组(consumer group)的位移。需要特别强调的是, 这是0.11.0.0版本提供的新功能且只适用于新版本consumer。   在新版本之前,如果要为已有的consumer group ...

Fri Aug 04 22:56:00 CST 2017 4 5202
查询订阅某topic的所有consumer group(Java API)

在网上碰到的问题,想了下使用现有的API还是可以实现的。 首先,需要引入Kafka服务器端代码,比如加入Kafka 1.0.0依赖: Maven <dependency> <groupId>org.apache.kafka</groupId> < ...

Tue Nov 14 19:48:00 CST 2017 3 1393
Kafka 位移提交

上文中主要介绍了Kafka 的消费位移从Zookeeper 转移到了自己管理。本文主要介绍一下位移提交方式。 Consumer 需要向 Kafka 汇报自己的位移数据,这个汇报过程被称为提交位移。因为 Consumer 能够同时消费多个分区的数据,所以位移提交实际上是在分区粒度 ...

Fri Aug 02 08:14:00 CST 2019 0 450
Consumer group理解深入

  每一个consumer实例都属于一个consumer group,每一条消息只会被同一个consumer group里的一个consumer实例消费。(不同consumer group可以同时消费同一条消息)      很多传统的message queue都会在消息被消费完后将消息删除,一方 ...

Thu Apr 07 06:14:00 CST 2016 1 1714
Consumer group理解深入

  每一个consumer实例都属于一个consumer group,每一条消息只会被同一个consumer group里的一个consumer实例消费。(不同consumer group可以同时消费同一条消息)      很多传统的message queue都会在消息被消费完后将消息删除,一方 ...

Tue Mar 12 03:59:00 CST 2019 0 1229
consumer提交offset原理

1 数据结构 消费者的消费状态是保存在SubscriptionState类中的,而SubscriptionState有个重要的属性那就是assignment保存了消费者消费的partition及其 ...

Mon Oct 08 17:05:00 CST 2018 0 1353
Java Api Consumer 连接启用Kerberos认证的Kafka

java程序连接到一个需要Kerberos认证的kafka集群上,消费生产者生产的信息,kafka版本是2.10-0.10.0.1; Java程序以maven构建,(怎么构建maven工程,可去问下度娘:“maven工程入门示例”) 先上pom.xml文件 然后是Jave ...

Fri Aug 24 04:33:00 CST 2018 0 3942
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM