作者:邊鵬_尛爺鑫
https://segmentfault.com/a/1190000010844969
大家心里仔細想想,當你們聽到高並發網站時,心里對這個網站是個什么概念?
首先想到的是淘寶嗎?帶着問題,我們一起思考技術~
寫這個話題是因為我對搜索引擎給我的答案很不滿意,然后決定把思考的一些東西分享出來,希望可以大家彼此討論下。
我們經常在面試的時候,被問到有沒有高並發的經驗?先不說哪些考高並發的裝逼公司。我思考的是什么才算是高並發?你一天幾個pv肯定高不了。首先在網上查找一下,並未找到明確的標准定義。那么什么是並發呢?
並發,在操作系統中,是指一個時間段中有幾個程序都處於已啟動運行到運行完畢之間,且這幾個程序都是在同一個處理機上運行,但任一個時刻點上只有一個程序在處理機上運行。
摘自百度百科
我們說的高並發是什么?
上面的定義明顯不是我們通常所言的並發,在互聯網時代,所講的並發、高並發,通常是指並發訪問。也就是在某個時間點,有多少個訪問同時到來。
我看到有人給高並發下了類似的定義:
高並發通常是指我們提供的系統服務能夠同時並行處理很多請求。
來看看這個定義,這里首先把並發給混淆到並行了。關於並發並行的區別看這里我就不多說,繼續探討並發。
然后定義又說很多請求?什么叫很多請求?做為中國人,這個詞讓我想象力一發不可收拾......好了,拉回來,繼續本文。
那么從上面的分析,可以看出來高並發在網絡上業界也沒有明確的定義。但根據我搜索情況,一般都是pv在千萬級別以上的公司才會涉及到這個概念。所以我得出一個自定義概念:如果某個系統的日pv在千萬級別以上,他就可能是一個高並發的系統。
為什么說是可能?那是因為有的公司完全不走技術路線,全靠機器堆,這不在我們的討論范圍。
高並發的問題,我們具體該關心什么?
講真話,高並發是個比較抽象的概念。很難有一個統一的可衡量的標准。哪么有一些其它維度的標准指標來衡量系統的性能嗎?
搬出以前計算機課程里邊的一些指標來跟大家聊聊。
,這篇看下。
先聲明幾個概念,別打瞌睡。
1.QPS(TPS):每秒鍾 request/事務 數量,在互聯網領域,指每秒響應請求數(指http請求);
2.吞吐量:單位時間內處理的請求數量(通常由QPS與並發數決定);
3.響應時間:系統對一個請求做出響應的平均時間。例如系統處理一個HTTP請求需要200ms,這個200ms就是系統的響應時間(我認為這里應該僅包含處理時間,網絡傳輸時間忽略)。
這里一定要注意呃,QPS ≠ 並發數
並發是指,某個時刻有多少個訪問同時到來。QPS是指秒鍾響應的請求數量。那么這里就肯容易推算出一個公式:
QPS = 並發數 / 平均響應時間
后面我們的分析都是圍繞這個公示來進行展開,沒明白的再回味一下。
現在我們來假設一個場景:既然QPS是每秒鍾處理的http請求數量。那么1s = 1000ms。假設我們當前一個http請求服務器處理完成需要100ms(即那么 平均響應時間 = 100ms )。那么它1s鍾可以處理10個請求。也就是說 qps = 10。推算出 並發數 = 10
常常我們被問到高並發的問題,其實從某種程度上來說是怎么提高現有程序的性能。現在我們基於上面的假設,來進行分析。假設現在有個系統性能上就是我們上面的假設,它每天有 300萬pv,運行在單機上(當然經常宕機),按照上面的系統性能數據,給出優化解決方案。
提高並發能力
通過上面的分析,要提升並發能力,我們就需要提升我們的qps(其實這里並不完全正確,為了說明問題,我們先放棄一部分正確性)
最快速解決方案,就是增加機器。我們根據以上情況來實際計算一下。
1.訪問量:200w pv
2.QPS:10
根據日常經驗,80% 的訪問量集中在 20%的時間,算一下這 200w pv實際需要機器達到多少qps才能滿足。
實際上如果在單機上,要求我們每秒鍾處理請求必須達到 61.7 以上才行,而實際上我們當前系統的qps是
10
。那么怎么解決?
方案一:上機器
個人的能力是有限的,團隊的力量是無窮的。既然一台機器搞不定,我們就多上幾台機器。這就涉及到db主從、讀寫分離、負載均衡等技術。
它的原理就是分流,把以前集中的壓力分散開來。改方案見效快,靈活,實踐起來也更快。
方案二:增加單機性能
單機到底性能能夠增加到一個什么程度,這取決於你的機器配置,也取決於你的服務到底有多復雜。
ps:寫到這里突然有點能夠理解為什網上對高並發都是講很多請求,沒有具體數據了,因為這真的只能針對業務來講,100個並發對靜態網頁來說根本沒有的事兒,但是對於某些密集計算型的估計...
那么常見的單機如何提升性能?比如:增加不常變化數據的緩存,開啟php的opcache,優化代碼(如:n+1問題、多重嵌套循環、深層遞歸等),db表優化等等。由於這些每一個點拿出來都夠寫一本書了。咋就不繼續下去。
總結
由於筆者自己也是沒有實際經歷過kw級別pv場景,很多東西講的不一定對,本文也是理清自己的一點思路。希望能夠與更多朋友進行討論。
也希望本文能夠解決你的一點疑惑,讓我們能夠從高大上的概念落實到實際問題中去。
參考資料
1.http://h5ip.cn/ifP8
2.http://www.ha97.com/5095.html