原文:关于Kafka __consumer_offests的讨论

众所周知, consumer offsets是一个内部topic,对用户而言是透明的,除了它的数据文件以及偶尔在日志中出现这两点之外,用户一般是感觉不到这个topic的。不过我们的确知道它保存的是Kafka新版本consumer的位移信息。本文我们简单梳理一下这个内部topic 以 . . 代码为分析对象 一 何时被创建 首先,我们先来看下 它是何时被创建的 consumer offsets创建的 ...

2018-01-19 16:05 0 7672 推荐指数:

查看详情

关于Kafka java consumer管理TCP连接的讨论

  本篇是《关于Kafka producer管理TCP连接的讨论》的续篇,主要讨论Kafka java consumer是如何管理TCP连接。实际上,这两篇大部分的内容是相同的,即consumer也是把TCP连接的管理交由底层的Selector类 ...

Fri Jan 04 17:53:00 CST 2019 5 1503
Kafka Consumer

python小例-生产、消费 生产 消费 基本用法 指定分区、offset、消费组 注:因指定了分区、偏移量,不会消费分区为2的 ...

Mon Feb 17 16:53:00 CST 2020 0 1073
Kafkakafka consumer

pollOnce 看下fetcher 创建时, 可以看出对应的配置 fetcher.fetchedRecord ...

Fri Mar 03 19:53:00 CST 2017 0 4666
关于Kafka配额的讨论(1)

Kafka自0.9.0.0版本引入了配额管理(quota management),旨在broker端对clients发送请求进行限流(throttling)。目前Kafka支持两大类配额管理: 网络带宽(network bandwidth)配额管理:定义带宽阈值来限制请求发送速率,阈值单位 ...

Wed Mar 21 00:28:00 CST 2018 0 2811
关于Kafka high watermark的讨论2

  之前写过一篇关于Kafka High watermark的文章,引起的讨论不少:有赞扬之声,但更多的是针对文中的内容被challenge,于是下定决心找个晚上熬夜再看了一遍,昨晚挑灯通读了一遍确实发现不少错误。鉴于此我决定再写一篇博客重新梳理一下最新版本中High watermark(下称HW ...

Tue Sep 04 22:47:00 CST 2018 9 1767
关于Kafka broker IO的讨论

  Apache Kafka是大量使用磁盘和页缓存(page cache)的,特别是对page cache的应用被视为是Kafka实现高吞吐量的重要因素之一。实际场景中用户调整page cache的手段并不太多,更多的还是通过管理好broker端的IO来间接影响page cache从而实现高吞吐量 ...

Sat Oct 27 20:19:00 CST 2018 4 1844
关于Kafka监控方案的讨论

之前在知乎上尝试过回答这个问题,后来问的人挺多,干脆在博客里面保存一下。 目前Kafka监控方案看似很多,然而并没有一个“大而全”的通用解决方案。各家框架也是各有千秋,以下是我了解到的一些内容: Kafka manager Github地址: https://github.com ...

Wed May 23 17:32:00 CST 2018 3 5226
[Kafka] - Kafka Java Consumer实现(二)

Kafka提供了两种Consumer API,分别是:High Level Consumer API 和 Lower Level Consumer API(Simple Consumer API) High Level Consumer API:高度抽象的Kafka消费者API;将底层具体获取 ...

Thu Feb 23 19:20:00 CST 2017 2 19537
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM