高並發之消息隊列


消息隊列已經逐漸成為企業IT系統內部通信的核心手段。它具有低耦合、可靠投遞、廣播、流量控制、最終一致性等一系列功能,成為異步RPC的主要手段之一。

消息被處理的過程相當於流程A被處理。我們這里以一個實際的模型來討論下,比如用戶下單成功時給用戶發短信,如果沒有這個消息隊列,我們會選擇同步調用發短信的接口,

並等待短息發送成功,這時候假設短信接口實現出現問題了,或者短信調用端超時了,又或者短信發送達到上限了,我們是選擇重試幾次還是放棄,還是選擇把這個放到數據庫

過一段時間再看看呢,不管怎樣,實現都很復雜。

我們可以將發短信這個請求放在消息隊列里,消息隊列按照一定的順序挨個處理隊列里的消息,當處理到發送短信的任務時,通知短信服務發送消息,如果出現之前出現的問題,那么把這個消息重新放到消息隊列中。

 

消息隊列的好處:

1.成功完成了一個異步解耦的過程。短信發送時只要保證放到消息隊列中就可以了,接着做后面的事情就行。一個事務只關心本質的流程,需要依賴其他事情但是不那么重要的時候,有通知即可,無需等待結果。每個成員不必受其他成員影響,可以更獨立自主,只通過一個簡單的容器來聯系。

對於我們的訂單系統,訂單最終支付成功之后可能需要給用戶發送短信積分什么的,但其實這已經不是我們系統的核心流程了。如果外部系統速度偏慢(比如短信網關速度不好),那么主流程的時間會加長很多,用戶肯定不希望點擊支付過好幾分鍾才看到結果。那么我們只需要通知短信系統“我們支付成功了”,不一定非要等待它處理完成。

 

2.保證了最終一致性,通過在隊列中存放任務保證它最終一定會執行。

最終一致性指的是兩個系統的狀態保持一致,要么都成功,要么都失敗。當然有個時間限制,理論上越快越好,但實際上在各種異常的情況下,可能會有一定延遲達到最終一致狀態,但最后兩個系統的狀態是一樣的。
業界有一些為“最終一致性”而生的消息隊列,如Notify(阿里)、QMQ(去哪兒)等,其設計初衷,就是為了交易系統中的高可靠通知。
以一個銀行的轉賬過程來理解最終一致性,轉賬的需求很簡單,如果A系統扣錢成功,則B系統加錢一定成功。反之則一起回滾,像什么都沒發生一樣。
然而,這個過程中存在很多可能的意外:

  1. A扣錢成功,調用B加錢接口失敗。
  2. A扣錢成功,調用B加錢接口雖然成功,但獲取最終結果時網絡異常引起超時。
  3. A扣錢成功,B加錢失敗,A想回滾扣的錢,但A機器down機。

可見,想把這件看似簡單的事真正做成,真的不那么容易。所有跨VM的一致性問題,從技術的角度講通用的解決方案是:

  1. 強一致性,分布式事務,但落地太難且成本太高,后文會具體提到。
  2. 最終一致性,主要是用“記錄”和“補償”的方式。在做所有的不確定的事情之前,先把事情記錄下來,然后去做不確定的事情,結果可能是:成功、失敗或是不確定,“不確定”(例如超時等)可以等價為失敗。成功就可以把記錄的東西清理掉了,對於失敗和不確定,可以依靠定時任務等方式把所有失敗的事情重新搞一遍,直到成功為止。
    回到剛才的例子,系統在A扣錢成功的情況下,把要給B“通知”這件事記錄在庫里(為了保證最高的可靠性可以把通知B系統加錢和扣錢成功這兩件事維護在一個本地事務里),通知成功則刪除這條記錄,通知失敗或不確定則依靠定時任務補償性地通知我們,直到我們把狀態更新成正確的為止。

3.廣播

消息隊列的基本功能之一是進行廣播。如果沒有消息隊列,每當一個新的業務方接入,我們都要聯調一次新接口。有了消息隊列,我們只需要關心消息是否送達了隊列,至於誰希望訂閱,是下游的事情,無疑極大地減少了開發和聯調的工作量。

3.提速。假設我們還需要發送郵件,有了消息隊列就不需要同步等待,我們可以直接並行處理,而下單核心任務可以更快完成。增強業務系統的異步處理能力。甚至幾乎不可能出現並發現象。

4.削峰和流控。不對於不需要實時處理的請求來說,當並發量特別大的時候,可以先在消息隊列中作緩存,然后陸續發送給對應的服務去處理

試想上下游對於事情的處理能力是不同的。比如,Web前端每秒承受上千萬的請求,並不是什么神奇的事情,只需要加多一點機器,再搭建一些LVS負載均衡設備和Nginx等即可。但數據庫的處理能力卻十分有限,即使使用SSD加分庫分表,單機的處理能力仍然在萬級。由於成本的考慮,我們不能奢求數據庫的機器數量追上前端。
這種問題同樣存在於系統和系統之間,如短信系統可能由於短板效應,速度卡在網關上(每秒幾百次請求),跟前端的並發量不是一個數量級。但用戶晚上個半分鍾左右收到短信,一般是不會有太大問題的。如果沒有消息隊列,兩個系統之間通過協商、滑動窗口等復雜的方案也不是說不能實現。但系統復雜性指數級增長,勢必在上游或者下游做存儲,並且要處理定時、擁塞等一系列問題。而且每當有處理能力有差距的時候,都需要單獨開發一套邏輯來維護這套邏輯。所以,利用中間系統轉儲兩個系統的通信內容,並在下游系統有能力處理這些消息的時候,再處理這些消息,是一套相對較通用的方式。

總而言之,消息隊列不是萬能的。對於需要強事務保證而且延遲敏感的,RPC是優於消息隊列的。
對於一些無關痛癢,或者對於別人非常重要但是對於自己不是那么關心的事情,可以利用消息隊列去做。
支持最終一致性的消息隊列,能夠用來處理延遲不那么敏感的“分布式事務”場景,而且相對於笨重的分布式事務,可能是更優的處理方式。
當上下游系統處理能力存在差距的時候,利用消息隊列做一個通用的“漏斗”。在下游有能力處理的時候,再進行分發。
如果下游有很多系統關心你的系統發出的通知的時候,果斷地使用消息隊列吧。

 

消息隊列的使用場景:

主要特點是異步處理,主要目的是減少請求響應時間和解耦。所以主要的使用場景就是將比較耗時而且不需要即時(同步)返回結果的操作作為消息放入消息隊列。

使用場景的話,舉個例子:
假設用戶在你的軟件中注冊,服務端收到用戶的注冊請求后,它會做這些操作:
  1. 校驗用戶名等信息,如果沒問題會在數據庫中添加一個用戶記錄
  2. 如果是用郵箱注冊會給你發送一封注冊成功的郵件,手機注冊則會發送一條短信
  3. 分析用戶的個人信息,以便將來向他推薦一些志同道合的人,或向那些人推薦他
  4. 發送給用戶一個包含操作指南的系統通知
  5. 等等……

但是對於用戶來說,注冊功能實際只需要第一步,只要服務端將他的賬戶信息存到數據庫中他便可以登錄上去做他想做的事情了。至於其他的事情,非要在這一次請求中全部完成么?值得用戶浪費時間等你處理這些對他來說無關緊要的事情么?所以實際當第一步做完后,服務端就可以把其他的操作放入對應的消息隊列中然后馬上返回用戶結果,由消息隊列異步的進行這些操作。

或者還有一種情況,同時有大量用戶注冊你的軟件,再高並發情況下注冊請求開始出現一些問題,例如郵件接口承受不住,或是分析信息時的大量計算使cpu滿載,這將會出現雖然用戶數據記錄很快的添加到數據庫中了,但是卻卡在發郵件或分析信息時的情況,導致請求的響應時間大幅增長,甚至出現超時,這就有點不划算了。面對這種情況一般也是將這些操作放入消息隊列(生產者消費者模型),消息隊列慢慢的進行處理,同時可以很快的完成注冊請求,不會影響用戶使用其他功能。

 

為什么需要消息隊列?

生產和消費的速度或者穩定性不一致。

 

當今市面上有很多主流的消息中間件,如老牌的ActiveMQ、RabbitMQ,炙手可熱的Kafka,阿里巴巴自主開發的Notify、MetaQ、RocketMQ等。

Kafka的介紹

Kafka是一種高吞吐量的分布式發布訂閱消息系統,它可以處理消費者規模的網站中的所有動作流數據。
Kafka 有如下特性:

  • 以時間復雜度為O(1)的方式提供消息持久化能力,即使對TB級以上數據也能保證常數時間復雜度的訪問性能。
  • 高吞吐率。即使在非常廉價的商用機器上也能做到單機支持每秒100K條以上消息的傳輸。
  • 支持Kafka Server間的消息分區,及分布式消費,同時保證每個Partition內的消息順序傳輸。
  • 同時支持離線數據處理和實時數據處理。
  • Scale out:支持在線水平擴展。

kafka的術語

  • Broker:Kafka集群包含一個或多個服務器,這種服務器被稱為broker。
  • Topic:每條發布到Kafka集群的消息都有一個類別,這個類別被稱為Topic。(物理上不同Topic的消息分開存儲,邏輯上一個Topic的消息雖然保存於一個或多個broker上但用戶只需指定消息的Topic即可生產或消費數據而不必關心數據存於何處)
  • Partition:Partition是物理上的概念,每個Topic包含一個或多個Partition。
  • Producer:負責發布消息到Kafka broker。
  • Consumer:消息消費者,向Kafka broker讀取消息的客戶端。
  • Consumer Group:每個Consumer屬於一個特定的Consumer Group(可為每個Consumer指定group name,若不指定group name則屬於默認的group)。

 

下面來介紹RabbitMQ里的一些基本定義,主要如下:
RabbitMQ Server:提供消息一條從Producer到Consumer的處理。
Exchange:一邊從發布者方接收消息,一邊把消息推送到隊列。
producer只能將消息發送給exchange。而exchange負責將消息發送到queues。Procuder Publish的Message進入了exchange,exchange會根據routingKey處理接收到的消息,判斷消息是應該推送到指定的隊列還是是多個隊列,或者是直接忽略消息。這些規則是通過交換機類型(exchange type)來定義的主要的type有direct,topic,headers,fanout。具體針對不同的場景使用不同的type。
queue也是通過這個routing keys來做的綁定。交換機將會對綁定鍵(binding key)和路由鍵(routing key)進行精確匹配,從而確定消息該分發到哪個隊列。
Queue:消息隊列。接收來自exchange的消息,然后再由consumer取出。exchange和queue可以一對一,也可以一對多,它們的關系通過routingKey來綁定。
Producer:Client A & B,生產者,消息的來源,消息必須發送給exchange。而不是直接給queue
Consumer:Client 1,2,3消費者,直接從queue中獲取消息進行消費,而不是從exchange中獲取消息進行消費。

 

 

 

 

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM