Redis消息隊列
在程序員這個圈子打拼了太多年,見過太多的程序員使用redis,其中一部分喜歡把redis做緩存(cache)使用,其中最典型的當屬存儲用戶session,除此之外,把redis作為消息隊列使用也不在少數,可見redis在互聯網中應用是多么的廣泛。
redis作為消息隊列使用,redis支持的數據結構是可以支撐這類業務,主要是利用了list這種數據結構的特性。Redis的列表相當於編程語言里面的 LinkedList,是一個雙向的列表結構,這意味着列表新增和刪除元素是非常快的,時間復雜度為O(1),但是查找一個元素的時候需要遍歷列表,時間復雜度為O(n)。由於列表的元素操作和消息隊列操作類似,所以redis可以適用於消息隊列的場景,當然,在適用於的棧的場景下也可以勝任。
需要提醒一下,生產環境中如果對消息的可靠性有十分高的要求(比如訂單支付的消費消息),請使用專業的消息隊列(例如:rmq,amq等),對消息的丟失有一定容忍度的程序完全可以使用redis,例如我們的日志收集程序
列表這種數據結構的命令為
移出並獲取列表的第一個元素, 如果列表沒有元素會阻塞列表直到等待超時或發現可彈出元素為止。
BLPOP key1 [key2 ] timeout
移出並獲取列表的最后一個元素, 如果列表沒有元素會阻塞列表直到等待超時或發現可彈出元素為止。
BRPOP key1 [key2 ] timeout
從列表中彈出一個值,將彈出的元素插入到另外一個列表中並返回它; 如果列表沒有元素會阻塞列表直到等待超時或發現可彈出元素為止。
BRPOPLPUSH source destination timeout
通過索引獲取列表中的元素
LINDEX key index
在列表的元素前或者后插入元素
LINSERT key BEFORE|AFTER pivot value
獲取列表長度
LLEN key
移出並獲取列表的第一個元素
LPOP key
將一個或多個值插入到列表頭部
LPUSH key value1 [value2]
將一個值插入到已存在的列表頭部
LPUSHX key value
獲取列表指定范圍內的元素
LRANGE key start stop
移除列表元素
LREM key count value
通過索引設置列表元素的值
LSET key index value
對一個列表進行修剪(trim),就是說,讓列表只保留指定區間內的元素,不在指定區間之內的元素都將被刪除。
LTRIM key start stop
移除列表的最后一個元素,返回值為移除的元素。
RPOP key
移除列表的最后一個元素,並將該元素添加到另一個列表並返回
RPOPLPUSH source destination
在列表中添加一個或多個值
RPUSH key value1 [value2]
為已存在的列表添加值
RPUSHX key value
缺陷
消息隊列的本質還是消費者和生產者的問題,只要是這樣的場景,就會涉及到兩端不平衡的情況,具體可表現為:
- 生產者生產速度大於消費者消費速度,面臨消息不斷堆積的問題,隨着消息數據的堆積,隊列是開啟限流措施,還是丟棄某些消息,更或者是把消息數據進行持久化。對於基於redis實現的消息隊列,一般為可忍受部分消息丟失的業務,所以很多人選擇丟棄消息的方案。另一種方案是基於redis單線程機制,可以增加消費者數量,這也是僅僅針對消息只被消費一次的場景。當然也可以選擇持久化方案,但是會對redis的性能產生影響。
- 消費者消費速度大於生產者生產速度,有的同學會說,這樣挺好啊,是,在某種意義上是比反過來的那個場景要好一些,畢竟可以避免產生消息的堆積問題。但是消費者沒有消息消費,會導致消費者進程一直在那里浪費cpu資源,而且還會把redis的QPS拉高。類似於這種死循環的場景,一般而且最常用的解決方案是讓線程sleep 一小段時間,既降低了消費端cpu也降低了redis的QPS。 但是sleep會有一個問題,會導致處理消息的延遲,例如sleep了一秒,那消息的延遲處理就有可能會延遲一秒,雖然在大部分場景下這都不是什么問題,但是作為程序員怎么能不追求極致和完美呢?
關於消息延遲的問題,最暴力簡單的方式就是增加消費客戶端,這樣可用多消費端交錯的方式來縮小延遲的間隔,當然redis的設計者也考慮了這個問題,所有有了Blpop 命令
Redis Blpop 命令移出並獲取列表的第一個元素, 如果列表沒有元素會阻塞列表直到等待超時或發現可彈出元素為止。
redis 127.0.0.1:6379> BLPOP LIST1 LIST2 .. LISTN TIMEOUT
而且還可以設置超時自動返回,豈不是完美。但是還要順便一句,redis的連接在空閑一段時間后,服務端可能會主動斷開,Blpop命令會拋出異常,所以還要做好了重試或者其他策略為好。
- 如果作為專業的消息隊列,一個消息被多個不同的業務消費(一個消息被消費多次)是必須要支持的,但是redis是基於自己的list數據結構來實現的偽隊列,所以這種業務場景下就不要考慮redis了,或者自己封裝一個類似分發器的中間件也可以。
- 基於redis的消息隊列沒有Ack的保證,換句話說,一個消息是否被正常處理redis是不知道的,這在很大程度上限制了它的適用場景。
寫在最后
我還是建議不要用redis做專業的MQ使用,畢竟MQ這種場景不是redis的設計初衷,但是太多人把redis做MQ使用,於是redis的作者基於redis的核心代碼實現了一個消息隊列:disque,也許未來會作為redis的核心組件,地址為 https://github.com/antirez/disque
除了disque,Redis Stream也是一個把redis作為MQ的比較好的解決方案,有興趣的同學可以研究一下。
千萬不要把任何一個業務場景想象的太簡單