原文:kafka的數據同步原理ISR、ACK、LEO、HW

數據可靠性保證,數據同步 為保證 producer 發送的數據,能可靠的發送到指定的 topic,topic 的每個 partition 收到 producer 發送的數據后,都需要向 producer 發送 ack acknowledgement 確認收到 ,如果 producer 收到 ack,就會進行下一輪的發送,否則重新發送數據。 Kafka副本同步選擇了第二種方案,全部同步完成才發送a ...

2021-09-10 15:59 0 308 推薦指數:

查看詳情

Kafka數據可靠性保證-ack,ISR,HW

文章目錄 1.副本數據同步策略 2.ISR,AR 3.ack應答機制 4. HW,LEO,LSO,LW名詞解釋 5.故障處理細節 1.follower故障 ...

Sun Jun 21 19:26:00 CST 2020 0 635
Kafka-LEOHW概念及更新流程

記錄下和kafka相關的LEOHW的內容,文中很多理解參考文末書籍還有某前輩。 LEO&HW基本概念 Base Offset:是起始位移,該副本中第一條消息的offset,如下圖,這里的起始位移是0,如果一個日志文件寫滿1G后(默認1G后會log rolling),這個起始位移 ...

Mon Apr 06 20:16:00 CST 2020 1 4282
Kafka中的HWLEO、LSO等分別代表什么?

HWLEO 等概念和上一篇文章所說的 ISR有着緊密的關系,如果不了解 ISR 可以先看下ISR相關的介紹。 HW (High Watermark)俗稱高水位,它標識了一個特定的消息偏移量(offset),消費者只能拉取到這個offset之前的消息。 下圖表示一個日志文件,這個日志文件中 ...

Sun Sep 08 22:47:00 CST 2019 0 3675
Kafka中的HWLEO、LSO等分別代表什么?

HWLEO 等概念和上一篇文章所說的 ISR有着緊密的關系,如果不了解 ISR 可以先看下ISR相關的介紹。 HW (High Watermark)俗稱高水位,它標識了一個特定的消息偏移量(offset),消費者只能拉取到這個offset之前的消息。 下圖表示一個日志文件,這個日志文件中 ...

Sun Jun 06 22:26:00 CST 2021 0 209
kafka的副本同步機制(ISR

一個topic可以有多個分區,多個副本(一般副本數量不大於分區數量)。一份分區下有多個副本,ISR表示目前消息量與leader相差不多的副本集合,這是整個副本集合的一個子集”。怎么去理解可用和相差不多這兩個詞呢?具體來說,ISR集合中的副本必須滿足兩個條件 副本所在節點必須維持着 ...

Thu Dec 24 01:17:00 CST 2020 0 453
kafka讀寫原理ack機制

一、 kafka讀寫流程 寫流程 讀流程 二、數據可靠性保證 為保證 producer 發送的數據,能可靠的發送到指定的 topic,topic 的每個 partition 收到 producer 發送的數據后,都需要向 producer 發送 ack ...

Fri Nov 12 22:22:00 CST 2021 0 985
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM