rabbitmq 重復ACK導致消息丟失


rabbitmq 重復確認導致消息丟失

背景

rabbitmq 在應用場景中,大多采用工作隊列 work-queue的模式。

在一個常見的工作隊列模式中,消費者 worker 將不斷的輪詢從隊列中拉取最新消息,當隊列負載壓力增大時允許添加多個worker 進行處理。
然而執行一個任務可能需要相當的時長,這是由業務特性所決定的;如果 worker執行任務過程中出現異常甚至宕機,此時消息便會丟失,這是簡單消息隊列難以解決的問題。

rabbitmq 采用了消息確認機制來防止此類問題,在該機制中,worker需要向 MQ Server 返回 ACK響應以表示消息已確認處理;
在以下情況下,rabbitmq 會對消息進行重新投遞:
1 client 未響應ACK, 主動關閉 Channel;
2 client 未響應ACk, 網絡異常斷開;

消息的重發機制沒有超時限制,只要client 不響應ACK,那么會一直投遞;
如果啟用了消息持久化機制,那么消息將有進一步的保障。

問題描述及分析

1 客戶端為簡化應答處理,可以設置自動應答選項,如:

 boolean autoAck = false; channel.basicConsume(TASK_QUEUE_NAME, autoAck, consumer); 

2 如果不啟用自動應答,需要應用代碼手動進行應答:

 try { doWork(message); } finally { logger.info(" xxx work done"); channel.basicAck(envelope.getDeliveryTag(), false); } 

3 當兩種方案同時存在

由於客戶端的編碼失誤,先啟用了自動應答選項,又在應用代碼執行了應答的代碼: 
 // enable autoAck boolean autoAck = true; consumerChannel.basicConsume(queueName, autoAck, this); //... // snipper from Consumer.handleDelivery method // send ack to server try { consumerChannel.basicAck(deliveryTag, true); } catch (Exception e) { } 

多了一次確認,應用代碼貌似一切如常。 但在頻繁進行消息收發測試時發現 消息存在隨機性丟失處理的情況!
檢查 rabbitmq server日志發現以下異常:

 {amqp_error,precondition_failed,"unknown delivery tag 1",'basic.ack'} ... {amqp_error,precondition_failed,"unknown delivery tag 1",'basic.ack'} ... {amqp_error,precondition_failed,"unknown delivery tag 1",'basic.ack'} ... 

提示未知的 delivery tag=1,該字段為MQ server 用於消息確認的標記,服務端因無法識別而打印錯誤。
另外一個現象則是,連續收發消息 5次,其中丟失消息處理1次,而 rabbitmq server錯誤日志出現 4次!

經過分析,發現問題原因所在:
rabbitmq 為每一個channel維護了一個delivery tag的計數器,這里采用正向自增,新消息投遞時自增,當消息響應時自減;
在連續收發的場景中,由於消息發送的間隔較短,部分消息因 consumer的重復確認被rabbitmq 當做已處理而丟棄。

解決方案

取消consumer 的自動應答機制,僅保留手動應答的處理,問題解決。

參考資料

關於 rabbitmq 消息確認機制:
http://www.rabbitmq.com/confirms.html#when


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM