面試連環炮系列(二十️五):RocketMQ怎么保證消息不丟失


  1. RocketMQ怎么保證消息不丟失?
  • A. 從Producer的視角來看:如果消息未能正確的存儲在MQ中,或者消費者未能正確的消費到這條消息,都是消息丟失。

  • B. 從Broker的視角來看:如果消息已經存在Broker里面了,如何保證不會丟失呢(宕機、磁盤崩潰)。

  • C. 從Consumer的視角來看:如果消息已經完成持久化了,但是Consumer取了,但是未消費成功且沒有反饋,就是消息丟失。

  • D. 從Producer分析:如何確保消息正確的發送到了Broker?

默認情況下,可以通過同步的方式阻塞式的發送,check SendStatus,狀態是OK,表示消息一定成功的投遞到了Broker,狀態超時或者失敗,則會觸發默認的2次重試。此方法的發送結果,可能Broker存儲成功了,也可能沒成功。

采取事務消息的投遞方式,並不能保證消息100%投遞成功到了Broker,但是如果消息發送Ack失敗的話,此消息會存儲在CommitLog當中,但是對ConsumerQueue是不可見的。可以在日志中查看到這條異常的消息,嚴格意義上來講,也並沒有完全丟失。

RocketMQ支持日志的索引,如果一條消息發送之后超時,也可以通過查詢日志的API,來check是否在Broker存儲成功。

從Broker分析:如果確保接收到的消息不會丟失?

消息支持持久化到Commitlog里面,即使宕機后重啟,未消費的消息也是可以加載出來的Broker自身支持同步刷盤、異步刷盤的策略,可以保證接收到的消息一定存儲在本地的內存中。

Broker集群支持1主N從的策略,支持同步復制和異步復制的方式,同步復制可以保證即使Master磁盤崩潰,消息仍然不會丟失。

從Cunmser分析:如何確保拉取到的消息被成功消費?

消費者可以根據自身的策略批量Pull消息,Consumer自身維護一個持久化的offset(對應MessageQueue里面的min offset),標記已經成功消費或者已經成功發回到broker的消息下標。如果Consumer消費失敗,那么它會把這個消息發回給Broker,發回成功后,再更新自己的offset。如果Consumer消費失敗,發回給broker時,broker掛掉了,那么Consumer會定時重試這個操作。
如果Consumer和broker一起掛了,消息也不會丟失,因為consumer里面的offset是定時持久化的,重啟之后,繼續拉取offset之前的消息到本地。

  1. RocketMQ如何保證消息不重復?

絕大多數情況下,消息是不重復的。在網絡抖動、應用處理超時等異常情況下,無法保證消息不重復,但是能保證消息不丟失。消息重復分兩種情況:

  • 發送時消息重復

當一條消息已被成功發送到服務端並完成持久化,此時出現了網絡閃斷或者客戶端宕機,導致服務端對客戶端應答失敗。如果此時生產者意識到消息發送失敗並嘗試再次發送消息,消費者后續會收到兩條內容相同並且 Message ID 也相同的消息。

  • 投遞時消息重復

消息消費的場景下,消息已投遞到消費者並完成業務處理,當客戶端給服務端反饋應答的時候網絡閃斷。為了保證消息至少被消費一次,消息隊列 RocketMQ的服務端將在網絡恢復后再次嘗試投遞之前已被處理過的消息,消費者后續會收到兩條內容相同並且 Message ID 也相同的消息。

正常情況下出現重復消息的概率小,如果RocketMQ實現判重的話,肯定會降低吞吐量和高可用,最好由業務端自己處理重復消息。

  1. 消費端收到兩條一樣的消息,應該怎樣處理

消費端按業務唯一標識保持業務處理冪等性。只要保持冪等性,不管來多少條重復消息,最后處理的結果都一樣。

  1. RocketMQ可以是實現順序消息嗎?

順序消息是指哪條消息先進入,哪條消息就會先被消費,符合FIFO。RocketMQ支持順序消息,又分為分區順序和全局順序。全局順序其實是分區順序的一個特例,即使Topic只有一個分區。全局順序將面臨性能的問題,而且絕大多數場景都不需要全局順序。

在MQ的模型中,順序需要由3個階段去保障:

  • 消息被發送時保持順序
    用戶在同一個線程中采用同步的方式發送消息。

  • 消息被存儲時保持和發送的順序一致
    Producer端確保消息順序唯一要做的事情就是將消息路由到特定的分區,在RocketMQ中,通過MessageQueueSelector來實現分區的選擇。

public interface MessageQueueSelector {
    MessageQueue select(final List<MessageQueue> mqs, final Message msg, final Object arg);
}
  • List mqs:消息要發送的Topic下所有的分區
  • Message msg:消息對象
  • 額外的參數:用戶可以傳遞自己的參數

如下實現就可以保證相同的訂單的消息被路由到相同的分區:

long orderId = ((Order) object).getOrderId;
return mqs.get(orderId % mqs.size());
  • 消息被消費時保持和存儲的順序一致

RocketMQ消費端有兩種類型:MQPullConsumer和MQPushConsumer。

MQPullConsumer由用戶控制線程,主動從服務端獲取消息,每次獲取到的是一個MessageQueue中的消息。PullResult中的List msgFoundList自然和存儲順序一致,用戶需要再拿到這批消息后自己保證消費的順序。

  1. 使用順序消息存在哪些問題?
  • 需要有順序關系的消息發送到同一個queue中,而不是使用客戶端自帶的負載均衡策略,所以一旦量比較大,可能會造成這個隊列消息量很大,而其它隊列比較空閑的情況。
    順序消息處理也必須在同一個consumer上,而且同一個queue的消息只能單線程處理,也存在消息堆積的可能。
    如果業務處理消息失敗,只會在consumer端重試,到達重試次數之后。會直接放入broker中的死信隊列。
  • 順序消息無法保證100%消息的順序。例如,有消息m1,m2,m3需要順序處理,m1被發到q1中,這時候q1所在的broker宕機,Producer會另外選擇一個queue來投遞m2和m3,這個時候m1和m2會到達不同的consumer上。當然這種情況發生的概率是非常低的,因為producer從檢測到broker宕機到切換queue需要一段時間,同時consumer要有消息堆積才會造成這種現象的出現。

參考(摘抄的文字版權屬於原作者):

https://blog.csdn.net/leeasony/article/details/104857576
https://blog.csdn.net/qq_38545713/article/details/104758104
https://www.jianshu.com/p/e1831c883e54
https://www.cnblogs.com/hzmark/p/orderly_message.html


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM