原文:kafka消费者处理能力低引起rebalance分析

一.背景介绍 项目上进行算法调度的需求,打算采用kafka作为消息中间件,通过将多个算法消费者加入到同一个group中并行的处理算法请求,从而达到高效处理的目的。但是算法处理的时间较长,多则几十分钟,短的几分钟。测试的结果是算法时间过长的消费者会引发kafka的rebalance,消费者无法再消费到新数据。 二.rebalance机制介绍 为了弄懂上述问题,还需要了解relance的机制。由于re ...

2019-12-27 16:40 0 1199 推荐指数:

查看详情

Kafka 2.6新功能:消费者主动触发Rebalance

Kafka 2.6引入的新功能:消费者能够主动触发Rebalance。一直以来,Rebalance的触发都是由Coordinator来执行的,但有些场景下消费者端能够主动触发Rebalance会很有必要。举个例子,在ConsumerPartitionAssignor接口 ...

Fri Jul 10 19:04:00 CST 2020 0 1735
Kafka消费者没有收到通知的分析

  今天遇到两位三方人员跟我反馈,某微服务的异步接口功能不正常了,由于该异步接口采用Kafka异步消息的方案,对方说没有收到Kafka消费者的通知,根据此问题,联系了相关人员进行了分析:   (一)明确环境是否一致   1、生产者和消费者链接Kafka的地址是否一致,初步发现A方消费者链接 ...

Thu Feb 20 22:34:00 CST 2020 0 1365
Kafka Rebalance机制分析

什么是 Rebalance Rebalance 本质上是一种协议,规定了一个 Consumer Group 下的所有 consumer 如何达成一致,来分配订阅 Topic 的每个分区。 例如:某 Group 下有 20 个 consumer 实例,它订阅了一个具有 100 ...

Sun Aug 25 01:33:00 CST 2019 6 10745
Kafka消费者Demo

Kafka消费者Demo 依赖包: 源码: ...

Thu Jul 09 01:53:00 CST 2020 0 909
kafka消费者配置

最近的业务接触了一下消息插件kafka ,其他客户端负责发送,我方负责接收消费。功能很简单,但是!!!!我们要求把消息入库,而且数据量每天达到了千万级别,这就日了苟啊! 废话不多说,上代码! 由于消息需要入库,我使用的是手动提交消息,如果不入库,不要求准确定,使用自动提交就ok ...

Tue Jul 20 22:33:00 CST 2021 0 443
Kafka消费者详解

一、消费者消费者群组   在 Kafka 中,消费者通常是消费者群组的一部分,多个消费者群组共同读取同一个主题时,彼此之间互不影响。Kafka 之所以要引入消费者群组这个概念是因为 Kafka 消费者经常会做一些高延迟的操作,比如把数据写到数据库或 HDFS ,或者进行耗时的计算,在这些情况下 ...

Tue Sep 21 23:26:00 CST 2021 0 100
kafka 消费者

消费者kafka 使用消费者组来控制消费消费,每个消费组都可以消费 topic 的全量信息,消费组内部的消费者再各自进行引流,消费不同的分区信息。 消费者从属于消费组,一个组里的消费者订阅的是相同的主题,每个消费者接收主题一部分的分区的消息。 一个消费者组只有一个消费者的情况 ...

Mon Nov 15 01:47:00 CST 2021 0 808
kafka消费者的配置

fetch.min.bytes 该属性指定了消费者’从服务器获取记录的最小字节数。 broker 在收到消费者的数据请求时, 如果可用的数据量小于fetch.min.bytes 指定的大小,那么它会等到有足够的可用数据时才把它返回给消费者。 作用:可以降低消费者和 broker 的工作负载 ...

Tue Aug 11 02:10:00 CST 2020 0 1602
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM