前言:
前時間出了一個小問題,下游的服務時不時的阻塞,我這邊為了確保數據一致性,不斷的重試請求,這樣的后果自然是雪上加霜。當然,下游處理的有待提高,但我們是否有更好的辦法來優化重試? backoff 指數退避算法就是干這事的.
該文章后續仍在不斷的更新修改中, 請移步到原文地址 http://xiaorui.cc/?p=5836
backoff 退避算法
什么是退避算法?通常我們的某服務發生故障時,我們會固定間隔時間來重試一次?但這樣會帶來一些問題,同一時間有很多請求在重試可能會造成無意義的請求。
指數退避算法會利用抖動(隨機延遲)來防止連續的沖突。 效果如下,每次間隔的時間都是指數上升,另外加了少許的隨機。
等待時間:101 ms
等待時間:208 ms
等待時間:413 ms
等待時間:821 ms
等待時間:1602 ms
等待時間:3203 ms
我這邊封裝了golang backoff的指數退避庫,有興趣的可以看看代碼https://github.com/rfyiamcool/backoff
backoff的代碼實現簡單,他的使用方法也簡單,給出一個例子。
b := NewBackOff( WithMinDelay(100*time.Millisecond), WithMaxDelay(10*time.Second), WithFactor(2), ) equals(t, b.Duration(), 100*time.Millisecond) equals(t, b.Duration(), 200*time.Millisecond) equals(t, b.Duration(), 400*time.Millisecond) for index := 0; index < 100; index++ { b.Duration() } // is max equals(t, b.Duration(), 10*time.Second) b.Reset() equals(t, b.Duration(), 100*time.Millisecond)
如果要實現少許的隨機延遲時間,需要開啟jitter參數
b := NewBackOff( WithMinDelay(100*time.Millisecond), WithMaxDelay(10*time.Second), WithFactor(2), WithJitterFlag(true), ) equals(t, b.Duration(), 100*time.Millisecond) between(t, b.Duration(), 100*time.Millisecond, 200*time.Millisecond) between(t, b.Duration(), 100*time.Millisecond, 400*time.Millisecond) b.Reset() equals(t, b.Duration(), 100*time.Millisecond)
總結: