SpringCloud Gateway高階之Sentinel限流、熔斷


前言

為什么需要服務熔斷和降級微服務是當前業界的一大趨勢,原理就是將單一職責的功能模塊獨立化為子服務降低服務間的耦合,服務間互相調用。但是這樣也會出現一些問題:

 

 

上圖中大量微服務互相調用存在大量的依賴關系,難免會出現某個服務故障,如ServiceD出現問題,導致ServiceG、ServiceF、ServiceA、ServiceB都出現問題,然后再會影響其他服務,變成級聯故障,最終導致系統不可用的坍塌,也就是服務雪崩

當然還有某些場景,在一些時間段某些服務會出現高並發的情況,而某些服務占用着那些緊缺的資源顯然是不太合理的,這時就需要對一些服務進行降級處理,削弱占用的系統資源

熟悉Spring Cloud的小伙伴,第一反應應該就是Hystrix。但是比較可惜的是Netflix已經宣布對Hystrix停止更新。那么還有什么更好的選擇呢?除了Spring Cloud官方推薦的resilience4j之外,目前Spring Cloud Alibaba下整合的Sentinel小伙伴們可以重點考察和選型的目標。

Sentinel是什么

Sentinel 是一款由阿里開發的面向分布式服務架構的輕量級流量控制產品,主要以流量為切入點,從流量控制、熔斷降級、系統負載保護等多個維度來幫助我們保護服務的穩定性。Sentinel的使用分為兩部分:

1、sentinel-dashboard:與hystrix-dashboard類似,但是它更為強大一些。除了與hystrix-dashboard一樣提供實時監控之外,還提供了流控規則、熔斷規則的在線維護等功能。

2、客戶端整合:每個微服務客戶端都需要整合sentinel的客戶端封裝與配置,才能將監控信息上報給dashboard展示以及實時的更改限流或熔斷規則等。

部署Sentinel Dashboard

下載地址

到github上面搜素sentinel看看他的releases,現在最新的版本V1.6.3,點擊下載

運行Sentinel.jarSentinel的默認端口是8080,當然你也可以換別的端口,在啟動的時候設置一下就行了。我們啟動時候要讓他在后台運行。

  1. nohup java -jar sentinel-dashboard-1.6.3.jar &

登陸Sentinel控制台

ip+端口號訪問服務,用戶名和密碼都是:sentinel

 

 

登陸進去后,能看到流控和降級規則設置

 

 

Sentinel對網關的支持

Sentinel 支持對 Spring Cloud Gateway、Zuul 等主流的 API Gateway 進行限流。

 

 

Sentinel 1.6.0 引入了 Sentinel API Gateway Adapter Common 模塊,此模塊中包含網關限流的規則和自定義 API 的實體和管理邏輯:

1、GatewayFlowRule:網關限流規則,這個根據網關的自身的路由場景設計的,可以針對不同 route 或自定義的 API 分組進行限流,支持針對請求中的參數、Header、來源 IP 等進行定制化的限流。

2、ApiDefinition:用戶自定義的 API 定義分組,可以看做是一些 URL 匹配的組合。比如我們可以定義一個 API 叫 myapi,請求 path 模式為 /foo/** 和 /baz/** 的都歸到 myapi 這個 API 分組下面。限流的時候可以針對這個自定義的 API 分組維度進行限流

網關限流規則 GatewayFlowRule 

 

字段解釋如下:

1、resource:資源名稱

網關中的 route 名稱或者用戶自定義的API 分組名稱。

2、resourceMode

規則是針對 API Gateway 的route(RESOURCEMODEROUTEID)還是用戶在 Sentinel 中自定義的API 分組(RESOURCEMODECUSTOMAPI_NAME),默認是route。

3、grade

限流指標維度,同限流規則的grade字段。

4、count:限流閾值5、intervalSec

統計時間窗口,單位是秒,默認是1 秒(目前僅對參數限流生效)。

6、controlBehavior

流量整形的控制效果,同限流規則的 controlBehavior 字段,目前支持快速失敗和勻速排隊兩種模式,默認是快速失敗

7、burst

應對突發請求時額外允許的請求數目(目前僅對參數限流生效)。

8、maxQueueingTimeoutMs

勻速排隊模式下的最長排隊時間,單位是毫秒,僅在勻速排隊模式下生效。

9、paramItem參數限流配置。若不提供,則代表不針對參數進行限流,該網關規則將會被轉換成普通流控規則;否則會轉換成熱點規則。其中的字段:parseStrategy從請求中提取參數的策略,目前支持四種模式提取來源 * IP(PARAMPARSESTRATEGYCLIENTIP) * Host(PARAMPARSESTRATEGYHOST) * 任意 Header(PARAMPARSESTRATEGYHEADER) * 任意 URL 參數(PARAMPARSESTRATEGYURLPARAM)

fieldName:若提取策略選擇 Header 模式或 URL 參數模式,則需要指定對應的 header 名稱或 URL 參數名稱。pattern 和 matchStrategy:為參數匹配特性預留

可以通過 GatewayRuleManager.loadRules(rules)手動加載網關規則,或通過 GatewayRuleManager.register2Property(property)注冊動態規則源動態推送(推薦方式)

網關流控實現原理

上圖的整體流程如下:

1、外部請求進入API Gateway時會經過Sentinel實現的filter,其中會依次進行 路由/API 分組匹配、請求屬性解析和參數組裝。

2、Sentinel 會根據配置的網關流控規則來解析請求屬性,並依照參數索引順序組裝參數數組,最終傳入SphU.entry(res, args) 中。

3、Sentinel API Gateway Adapter Common 模塊向 Slot Chain 中添加了一個 GatewayFlowSlot,專門用來做網關規則的檢查。

4、GatewayFlowSlot會從GatewayRuleManager中提取生成的熱點參數規則,根據傳入的參數依次進行規則檢查。若某條規則不針對請求屬性,則會在參數最后一個位置置入預設的常量達到普通流控的效果注意:

當通過 GatewayRuleManager 加載網關流控規則GatewayFlowRule時,無論是否針對請求屬性進行限流,Sentinel底層都會將網關流控規則轉化為熱點參數規則ParamFlowRule,存儲在GatewayRuleManager 中,與正常的熱點參數規則相隔離。轉換時Sentinel會根據請求屬性配置,為網關流控規則設置參數索引idx,並同步到生成的熱點參數規則

 

總結

從Sentinel的1.6.0版本開始,提供了SpringCloud Gateway的適配模塊,可以提供兩種資源維度的限流:

1、route 維度:即在Spring配置文件中配置的路由條目,資源名為對應的routeId

2、自定義 API 維度:用戶可以利用 Sentinel 提供的 API 來自定義一些 API 分組


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM