原文:kafka的数据同步原理ISR、ACK、LEO、HW

数据可靠性保证,数据同步 为保证 producer 发送的数据,能可靠的发送到指定的 topic,topic 的每个 partition 收到 producer 发送的数据后,都需要向 producer 发送 ack acknowledgement 确认收到 ,如果 producer 收到 ack,就会进行下一轮的发送,否则重新发送数据。 Kafka副本同步选择了第二种方案,全部同步完成才发送a ...

2021-09-10 15:59 0 308 推荐指数:

查看详情

Kafka数据可靠性保证-ack,ISR,HW

文章目录 1.副本数据同步策略 2.ISR,AR 3.ack应答机制 4. HW,LEO,LSO,LW名词解释 5.故障处理细节 1.follower故障 ...

Sun Jun 21 19:26:00 CST 2020 0 635
Kafka-LEOHW概念及更新流程

记录下和kafka相关的LEOHW的内容,文中很多理解参考文末书籍还有某前辈。 LEO&HW基本概念 Base Offset:是起始位移,该副本中第一条消息的offset,如下图,这里的起始位移是0,如果一个日志文件写满1G后(默认1G后会log rolling),这个起始位移 ...

Mon Apr 06 20:16:00 CST 2020 1 4282
Kafka中的HWLEO、LSO等分别代表什么?

HWLEO 等概念和上一篇文章所说的 ISR有着紧密的关系,如果不了解 ISR 可以先看下ISR相关的介绍。 HW (High Watermark)俗称高水位,它标识了一个特定的消息偏移量(offset),消费者只能拉取到这个offset之前的消息。 下图表示一个日志文件,这个日志文件中 ...

Sun Sep 08 22:47:00 CST 2019 0 3675
Kafka中的HWLEO、LSO等分别代表什么?

HWLEO 等概念和上一篇文章所说的 ISR有着紧密的关系,如果不了解 ISR 可以先看下ISR相关的介绍。 HW (High Watermark)俗称高水位,它标识了一个特定的消息偏移量(offset),消费者只能拉取到这个offset之前的消息。 下图表示一个日志文件,这个日志文件中 ...

Sun Jun 06 22:26:00 CST 2021 0 209
kafka的副本同步机制(ISR

一个topic可以有多个分区,多个副本(一般副本数量不大于分区数量)。一份分区下有多个副本,ISR表示目前消息量与leader相差不多的副本集合,这是整个副本集合的一个子集”。怎么去理解可用和相差不多这两个词呢?具体来说,ISR集合中的副本必须满足两个条件 副本所在节点必须维持着 ...

Thu Dec 24 01:17:00 CST 2020 0 453
kafka读写原理ack机制

一、 kafka读写流程 写流程 读流程 二、数据可靠性保证 为保证 producer 发送的数据,能可靠的发送到指定的 topic,topic 的每个 partition 收到 producer 发送的数据后,都需要向 producer 发送 ack ...

Fri Nov 12 22:22:00 CST 2021 0 985
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM