#高並發應對方案
架構方面
-
分層
對系統架構的分層,分為展示層,業務層,服務層,數據層等,可以使得分工明確,實現解耦,便於管理
按業務種類分層,可以實現服務化,解耦。
- 分布式(即模塊服務化)
不同的功能模塊以服務的方式在不同服務器上提供,可以分解單台服務器的負擔
-
集群
在分布式的基礎上,對訪問頻率高的模塊再進行集群部署,通過負載均衡協同對外提供服務,可以分解高並發量模塊對服務器的壓力
前端
-
DNS
實現同一個域名轉發到不同IP,負載均衡。
- CDN
就近訪問,用戶將會訪問存放熱點資源和靜態資源的最近的服務器。
反向代理(緩存靜態資源,無需后端服務支持)
應用層
- 應用緩存
即應用服務器本地緩存熱點資源(對象形式),減少對數據庫訪問次數
- 分布式緩存
數據特征:熱點數據,讀比寫多,不會馬上失效),例如terracotta的bigmemory
- 異步
一方面可以應用在單機多線程中,將業務線程放入隊列處理。另一方面可以應用在分布式系統中,通過分布式消息實現服務請求相應的異步
異步可以加快網站響應速度,有效實現高並發的銷峰。
數據庫
讀寫分離(主從數據庫)
數據庫拆分(垂直/水平)
必用數據庫(容災)
框架緩存(例如Hibernate的一二級緩存)
#高並發帶來的問題和解決方案
事務問題(一致性)
容器事務管理
鎖機制
隔離機制
狀態問題(session)
- 用cooke記錄sesion
缺點是有大小限制,另外不穩定,客戶端可能關閉瀏覽器導致數據丟失,且不安全
- session復制
即集群中的服務器都持有一份sesion,每次有數據變化時需要同步給其他服務器,適合小規模網站
- session綁定
由負載均衡服務器將客戶的IP/cookie與session綁定,實現會話粘滯。
但這種方案缺乏高可用性,因為客戶的關閉瀏覽器可能會改變cookie,客戶端IP也可能變化,服務器端也可能宕機導致session丟失。
- session服務器
包含兩個層面,
一個是利用分布式緩存,可以實現會話的保持,適合一般集群需求
另一個是獨立session服務器,適合更高要求的需求,例如單點登錄(SSO)