問題描述
Azure Redis在使用的過程中,多次無規律的出現超時問題。抓取到客戶端的異常錯誤后,想進一步的分析是何原因導致了如下異常呢?
Timeout awaiting response (outbound=0KiB, inbound=0KiB, 5984ms elapsed, timeout is 5000ms), command=GET,
next: GET n:AbpZeroMultiTenantLocalizationDictionaryCache,c:HMedia#zh-CN#0,
inst: 0, qu: 0, qs: 498, aw: False, rs: ReadAsync, ws: Idle, in: 65536,
serverEndpoint: xxxxxx-cache.redis.cache.chinacloudapi.cn:6380,
mc: 1/1/0, mgr: 10 of 10 available, clientName: RD0003FF04A4F7,
IOCP: (Busy=70,Free=930,Min=250,Max=1000),
WORKER: (Busy=430,Free=32337,Min=400,Max=32767), v: 2.1.58.34321
官方文檔對該類問題的解釋為:
雖然這里Busy大於Min的Worker數量,表示目前客戶端中所設置的ThreadPool值不夠用,需要做一定的調整。但是這並不是Redis出現持續超時的根本原因,還是需要繼續排查是否有某一方面達到了性能的限制呢?
問題分析
- 第一步:分析Azure Redis的各種指標,查看在超時時間點是否有突增的尖峰。
- 第二步:對比尖峰值,查看是否有突破當前定價層的閾值。
- 第三步:查看Redis日志,發現不常規的點。使用各種已知的命令來輔助調查。
- 第四步:如何來避免呢?
根據以上的四步原則。查看Azure Redis的指標,發現網絡的讀寫出現尖峰。指標圖類似於:
- 緩存讀取量:指定報告間隔期間,從緩存中讀取的數據量,以每秒兆字節數(MB/秒)為單位。 此值來源於支持虛擬機的網絡接口卡,該虛擬機托管緩存,但並不特定於 Redis。 此值對應於該緩存使用的網絡帶寬。如果要針對服務器端網絡帶寬限制設置警報,則可使用此
Cache Read
計數器來創建警報。 - 緩存寫入量:指定報告間隔期間,寫入緩存中的數據量,以每秒兆字節數(MB/秒)為單位。 此值來源於支持虛擬機的網絡接口卡,該虛擬機托管緩存,但並不特定於 Redis。 此值對應於從客戶端發送到緩存的數據的網絡帶寬。
但是,只查看主節點的流量(注:Azure Redis有兩個節點,一主一從),寫入流量(409KB)與上圖中的38.07MB卻存在巨大的差別, 難到這是有連接直接操作從節點,而不通過主節點?
#根據以下步驟,就可以查看到從節點的網絡寫入,讀取指標圖:
1)在Azure Redis的門戶中,打開Metrics頁面, 選取name space為Redis Cache standard metrics
2)Metric 選取Cache Write (Instance Based)
3)添加Filter,Primary = False
4)啟用Apply Splitting,按照端口細分
#如果發現從節點有大量的流量操作,已經嚴重影響主節點的正常指令執行
這個時候,就需要跟進一步的分析,是那些客戶端連接到Redis?它們執行命令的次數有多少呢?它們執行了那些命令呢?
可以通過Redis-cli.exe工具連接到Redis后,通過 client list 當前的客戶端連接情況和IP地址,已經通過numops查看當前連接已經執行的OPS。然后通過 monitor 指令實時監控命令的執行和所發出請求的IP地址
1) 使用 redis-cli.exe連接到Azure Redis服務
redis-cli.exe -h yourcachename.redis.cache.chinacloudapi.cn -p 6379 -a YourAccessKey
2) 使用 client list 查看你連接數和 numops數 (實時)
3) 使用monitor指令監控所執行的命令(實時)
#如何來避免其他非法的連接呢?對IP地址進行限制,設置白名單。或者啟用內網訪問 或者啟用專用終結點
[完]
參考資料
排查 Azure Cache for Redis 超時問題:https://docs.azure.cn/zh-cn/azure-cache-for-redis/cache-troubleshoot-timeouts
將 Redis 命令行工具與 Azure Redis 緩存配合使用:https://docs.azure.cn/zh-cn/azure-cache-for-redis/cache-how-to-redis-cli-tool#connect-using-the-redis-command-line-tool
Azure數據中心各資源的IP地址列表:https://www.microsoft.com/en-us/download/details.aspx?id=57062
Redis Private Endpoint:https://docs.microsoft.com/zh-cn/azure/azure-cache-for-redis/cache-private-link
Redis部署至VNET:https://docs.microsoft.com/zh-cn/azure/azure-cache-for-redis/cache-how-to-premium-vnet