記錄下和kafka相關的語義、不重復消息、不丟失數據、分區有序的內容，文中很多理解參考文末博文、書籍還有某前輩。 kafka語義 kafka中有三種語義，它對理解下面的不重復消費有幫助。 最多一次（at most once）：消息最多被處理一次，可能有消息丟失的風險。 至少一次 ...

： 如何保證消息不丟失？ 如何處理重復消息？ 如何保證消息的有序性？ 如何處理消息堆積？ ...

先處理消費端的丟失數據和重復消費 這倆種情況都是 消息偏移offset的問題導致的，只是場景不同。 offset位移提交一般有倆種方式，自動位移提交和手動位移提交。用enable.auto.commit這個配置屬性去控制 丟失消息一般是自動提交的問題，所以切換成手動位移提交就可以 ...

見：https://www.cnblogs.com/sabertobih/p/14092290.html 數據不丟失 1）從生產端：acks = -1，（ack應答機制）從生產端到節點端，當所有isr集合里的節點備份完畢后返回成功； 2）從節點端：每個partition至少需要一個isr節點 ...

Kafka作為當下流行的高並發消息中間件，大量用於數據采集，實時處理等場景，我們在享受他的高並發，高可靠時，還是不得不面對可能存在的問題，最常見的就是丟包，重發問題。 1、丟包問題：消息推送服務，每天早上，手機上各終端都會給用戶推送消息，這時候流量劇增，可能會出現kafka發送數據過快，導致 ...

Kafka重復消費原因 底層根本原因：已經消費了數據，但是offset沒提交。 原因1：強行kill線程，導致消費后的數據，offset沒有提交。 原因2：設置offset為自動提交，關閉kafka時，如果在close之前，調用 consumer.unsubscribe ...

Kafka 是現在大數據中流行的消息中間件，其中 kafka 中由 topic 組成，而 topic 下又可以由多個 partition 構成。有時候我們在消費 kafka 中的數據想要保證消費 kafka 中的所有的分區下數據是全局有序的，這種情況下就需要將 topic 下的 partition ...

Kafka 是現在大數據中流行的消息中間件，其中 kafka 中由 topic 組成，而 topic 下又可以由多個 partition 構成。有時候我們在消費 kafka 中的數據想要保證消費 kafka 中的所有的分區下數據是全局有序的，這種情況下就需要將 topic 下的 partition ...