一 高並發的概念
在互聯網時代,並發,高並發通常是指並發訪問。也就是在某個時間點,有多少個訪問同時到來。
二 高並發架構相關概念
1.QPS (每秒查詢率) : 每秒鍾請求或者查詢的數量,在互聯網領域,指每秒響應請求數(指HTTP請求)
2. PV(Page View):綜合瀏覽量,即頁面瀏覽量或者點擊量,一個訪客在24小時內訪問的頁面數量
--注:同一個人瀏覽你的網站的同一頁面,只記做一次pv
3. 吞吐量(fetches/sec) :單位時間內處理的請求數量 (通常由QPS和並發數決定)
4. 響應時間:從請求發出到收到響應花費的時間
5. 獨立訪客(UV):一定時間范圍內,相同訪客多次訪問網站,只計算為1個獨立訪客
6. 帶寬:計算帶寬需關注兩個指標,峰值流量和頁面的平均大小
7. 日網站帶寬: PV/統計時間(換算到秒) * 平均頁面大小(kb)* 8
三 需要注意點:
1. QPS不等於並發連接數(QPS是每秒HTTP請求數量,並發連接數是系統同時處理的請求數量)
2. 峰值每秒請求數(QPS)= (總PV數*80%)/ (六小時秒數*20%)【代表80%的訪問量都集中在20%的時間內】
3. 壓力測試: 測試能承受的最大並發數 以及測試最大承受的QPS值
4. 常用的性能測試工具【ab,wrk,httpload,Web Bench,Siege,Apache JMeter】
四 優化
1. 當QPS小於50時
優化方案:為一般小型網站,不用考慮優化
2.當QPS達到100時,遇到數據查詢瓶頸
優化方案: 數據庫緩存層,數據庫的負載均衡
3.當QPS達到800時, 遇到帶寬瓶頸
優化方案:CDN加速,負載均衡
4. 當QPS達到1000時
優化方案: 做html靜態緩存
5. 當QPS達到2000時
優化方案: 做業務分離,分布式存儲
高並發解決方案案例:
1.流量優化
防盜鏈處理(去除惡意請求)
2.前端優化
(1) 減少HTTP請求[將css,js等合並]
(2) 添加異步請求(先不將所有數據都展示給用戶,用戶觸發某個事件,才會異步請求數據)
(3) 啟用瀏覽器緩存和文件壓縮
(4) CDN加速
(5) 建立獨立的圖片服務器(減少I/O)
3. 服務端優化
(1) 頁面靜態化
(2) 並發處理
(3) 隊列處理
4.數據庫優化
(1) 數據庫緩存
(2) 分庫分表,分區
(3) 讀寫分離
(4) 負載均衡
5.web服務器優化
(1) nginx反向代理實現負載均衡
(2) lvs實現負載均衡