原文:Java API獲取consumer group最新提交位移的時間

碰到了有人問起這個問題,目前java consumer沒有利用OffsetAndMetadata中的metadata字段記錄提交的時間,故直接通過java consumer來查詢是不行,我們需要直接讀取 consumer offsets,代碼如下: public static long lastCommitTimestamp String groupName, String bootstrapSe ...

2019-01-03 11:52 14 864 推薦指數:

查看詳情

Kafka consumer group位移重設

  本文闡述如何使用Kafka自帶的kafka-consumer-groups.sh腳本隨意設置消費者組(consumer group)的位移。需要特別強調的是, 這是0.11.0.0版本提供的新功能且只適用於新版本consumer。   在新版本之前,如果要為已有的consumer group ...

Fri Aug 04 22:56:00 CST 2017 4 5202
查詢訂閱某topic的所有consumer group(Java API)

在網上碰到的問題,想了下使用現有的API還是可以實現的。 首先,需要引入Kafka服務器端代碼,比如加入Kafka 1.0.0依賴: Maven <dependency> <groupId>org.apache.kafka</groupId> < ...

Tue Nov 14 19:48:00 CST 2017 3 1393
Kafka 位移提交

上文中主要介紹了Kafka 的消費位移從Zookeeper 轉移到了自己管理。本文主要介紹一下位移提交方式。 Consumer 需要向 Kafka 匯報自己的位移數據,這個匯報過程被稱為提交位移。因為 Consumer 能夠同時消費多個分區的數據,所以位移提交實際上是在分區粒度 ...

Fri Aug 02 08:14:00 CST 2019 0 450
Consumer group理解深入

  每一個consumer實例都屬於一個consumer group,每一條消息只會被同一個consumer group里的一個consumer實例消費。(不同consumer group可以同時消費同一條消息)      很多傳統的message queue都會在消息被消費完后將消息刪除,一方 ...

Thu Apr 07 06:14:00 CST 2016 1 1714
Consumer group理解深入

  每一個consumer實例都屬於一個consumer group,每一條消息只會被同一個consumer group里的一個consumer實例消費。(不同consumer group可以同時消費同一條消息)      很多傳統的message queue都會在消息被消費完后將消息刪除,一方 ...

Tue Mar 12 03:59:00 CST 2019 0 1229
consumer提交offset原理

1 數據結構 消費者的消費狀態是保存在SubscriptionState類中的,而SubscriptionState有個重要的屬性那就是assignment保存了消費者消費的partition及其 ...

Mon Oct 08 17:05:00 CST 2018 0 1353
Java Api Consumer 連接啟用Kerberos認證的Kafka

java程序連接到一個需要Kerberos認證的kafka集群上,消費生產者生產的信息,kafka版本是2.10-0.10.0.1; Java程序以maven構建,(怎么構建maven工程,可去問下度娘:“maven工程入門示例”) 先上pom.xml文件 然后是Jave ...

Fri Aug 24 04:33:00 CST 2018 0 3942
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM