MQ系列1：消息中間件執行原理
MQ系列2：消息中間件的技術選型
MQ系列3：RocketMQ 架構分析
MQ系列4：NameServer 原理解析
MQ系列5：RocketMQ消息的發送模式
MQ系列6：消息的消費
MQ系列7：消息通信，追求極致性能
MQ系列8：數據存儲，消息隊列的高可用保障
1 介紹
消息中間件是指在分布式系統中完成消息的發送和接收的基礎軟件。
消息中間件也可以稱消息隊列（Message Queue / MQ），互聯網場景中經常使用消息中間件進行消息路由、訂閱發布、異步處理等操作，來緩解系統的壓力。
引入消息隊列主要是為了解決如下問題的：
1、解耦 ：如訂單系統，可以通過消息隊列把削減庫存的工作交給庫存系統去處理，而不用等實時響應。
2、執行有序性：先進先出原理，按照進入消息隊列的順序處理業務事件。
3、消息路由 ：按照不同的規則，將隊列中消息發送到不同的業務服務中。
4、異步處理 ：將一些無需實時響應結果的計算放到異步中，提升系統的吞吐率。
5、削峰 ：將峰值期間的操作削減，比如整個操作流程包含12個步驟，后11個步驟非強關注結果的數據，可以放在消息隊列中。
既然本身就是為了解決大流量場面而設計的，那他自身的穩定性、健壯性就顯的無比重要，下面我們來看看消息隊列怎么去保證可用性的。
2 消息隊列的基本構成
分析高可用特性前先復習下消息隊列的基本組件，無論是哪一種類型的消息隊列，基本都包含以下構成：
- Broker：消息服務器，以服務的形式運行在server端，給各個業務系統提供核心消息數據的中轉服務。
- Producer：消息生產者，業務的發起方，負責生產消息傳輸給broker。
- Consumer：消息消費者，業務的處理方，負責從broker獲取消息並進行業務邏輯處理
- Topic：主題模塊，發布/訂閱模式下的消息統一匯集地，不同生產者向topic發送消息，由MQ服務器分發到不同的訂閱者，實現消息的廣播
- Queue：隊列，PTP模式下，特定生產者向特定queue發送消息，消費者訂閱特定的queue完成指定消息的接收。
- Message：消息體，根據不同通信協議定義的固定格式進行編碼的數據包，來封裝業務數據，實現消息的傳輸。
上圖中以kafka為例子，這是典型的集群模式，Kafka通過Zookeeper管理集群配置，選舉leader，以及在Consumer Group發生變化時進行rebalance。Producer使用push模式將消息發布到broker，Consumer使用pull模式從broker訂閱並消費消息。
- producer 負責生產消息
- consumer 負責消費消息
- broker 消息服務器，提供消息核心的處理工作
- zookeeper 用於生產者和消費者的注冊與發現
3 高可用性架構保證
了解了一個消息隊列的構成之后，我們來看看這種結構是怎么保障高可用性的。
首先，高可用是指系統的出錯概率和無故障運行時長，從消息隊列角度出發，至少要保證一下幾點：
-
低消息丟失率：消息可靠性也是衡量消息中間件好壞的一個關鍵因素，尤其是在金融支付領域，消息可靠性尤為重要。
-
低故障率：消息中間件的可用性是指無故障運行的時間百分比，通常用幾個 9 來衡量，如 99.99% 就是一個不錯的指標。
-
多副本容錯能力：一般會要求多副本及強一致性，多副本可以保證在 master 節點宕機異常之后可以提升 slave 作為新的 master 而繼續提供服務來保障可用性。
3.1 RocketMQ
以為RocketMQ為例，集群模式如下：
- 多master 模式
- 多master多slave異步復制模式-
- 多 master多slave同步雙寫模式。
- Name Service 集群： RocketMQ 的 "中央大腦 " ， RocketMQ 的服務注冊中心，集群模式確保它的可用性。
- Produer 集群
- Consumer 集群：避免單例的消費服務故障導致消息堆積。
多master 多slave模式部署架構圖：
Producer 與 NameServer集群中的其中一個節點（隨機或者RR選擇）建立長連接，定期從 NameServer 獲取 Topic 路由信息，既可以從 Broker Master 訂閱消息，也可以從 Broker Slave 訂閱消息。
3.2 Kafka
Kafka集群中包含如下組成部分：
- 幾個消息生產者Producer（可以是業務的Web程序、定時任務服務，其他下游服務的請求等）
- 一個broker組（Kafka支持橫向擴展，一般來說broker數量越多，集群吞吐率越高）
- 一個消費組 Consumer Group，在資源充足的情況下，消費者越多，消費效率越高，性能也就越好
- 一個Zookeeper集群：保證消費者和生產者的注冊和訂閱，避免業務之間的耦合，也提高了可用性。
兩個關鍵點：
- Kafka通過Zookeeper管理集群配置，選舉leader，以及在Consumer Group發生變化時進行rebalance。
- Producer使用push模式將消息發布到broker，Consumer使用pull模式從broker訂閱並消費消息。
4 總結
上面介紹了簡歷高可用消息隊列架構的條件，以及RocketMQ和Kafka實現方案。具體高可用性特性方面（如 消息順序性保障、消息冪等性保障、消息安全性保障、消息事務性保障），我們會在后面的章節中詳細的介紹。