來源於 https://blog.csdn.net/u010900284/article/details/83541101
一個小型的網站，可以使用最簡單的html靜態頁面就實現了，配合一些圖片達到美化效果，所有的頁面均存放在一個目錄下，這樣的網站對系統架構、性能的要求都很簡單。隨着互聯網業務的不斷豐富，網站相關的技術經過這些年的發展，已經細分到很細的方方面面，尤其對於大型網站來說，所采用的技術更是涉及面非常廣，從硬件到軟件、編程語言、數據庫、WebServer、防火牆等各個領域都有了很高的要求，已經不是原來簡單的html靜態網站所能比擬的。
大型網站，比如門戶網站，在面對大量用戶訪問、高並發請求方面，基本的解決方案集中在這樣幾個環節：使用高性能的服務器、高性能的數據庫、高效率的編程語言、還有高性能的Web容器。這幾個解決思路在一定程度上意味着更大的投入。
1、HTML靜態化
其實大家都知道，效率最高、消耗最小的就是純靜態化的html頁面，所以我們盡可能使我們的網站上的頁面采用靜態頁面來實現，這個最簡單的方法其實也是最有效的方法。但是對於大量內容並且頻繁更新的網站，我們無法全部手動去挨個實現，於是出現了我們常見的信息發布系統CMS，像我們常訪問的各個門戶站點的新聞頻道，甚至他們的其他頻道，都是通過信息發布系統來管理和實現的，信息發布系統可以實現最簡單的信息錄入自動生成靜態頁面，還能具備頻道管理、權限管理、自動抓取等功能，對於一個大型網站來說，擁有一套高效、可管理的CMS是必不可少的。
除了門戶和信息發布類型的網站，對於交互性要求很高的社區類型網站來說，盡可能的靜態化也是提高性能的必要手段，將社區內的帖子、文章進行實時的靜態化、有更新的時候再重新靜態化也是大量使用的策略，像Mop的大雜燴就是使用了這樣的策略，網易社區等也是如此。
同時，html靜態化也是某些緩存策略使用的手段，對於系統中頻繁使用數據庫查詢但是內容更新很小的應用，可以考慮使用html靜態化來實現。比如論壇中論壇的公用設置信息，這些信息目前的主流論壇都可以進行后台管理並且存儲在數據庫中，這些信息其實大量被前台程序調用，但是更新頻率很小，可以考慮將這部分內容進行后台更新的時候進行靜態化，這樣避免了大量的數據庫訪問請求。
2、圖片服務器分離
大家知道，對於Web服務器來說，不管是Apache、IIS還是其他容器，圖片是最消耗資源的，於是我們有必要將圖片與頁面進行分離，這是基本上大型網站都會采用的策略，他們都有獨立的、甚至很多台的圖片服務器。這樣的架構可以降低提供頁面訪問請求的服務器系統壓力，並且可以保證系統不會因為圖片問題而崩潰。
在應用服務器和圖片服務器上，可以進行不同的配置優化，比如apache在配置ContentType的時候可以盡量少支持、盡可能少的LoadModule，保證更高的系統消耗和執行效率。
3、數據庫集群、庫表散列
大型網站都有復雜的應用，這些應用必須使用數據庫，那么在面對大量訪問的時候，數據庫的瓶頸很快就能顯現出來，這時一台數據庫將很快無法滿足應用，於是我們需要使用數據庫集群或者庫表散列。
在數據庫集群方面，很多數據庫都有自己的解決方案，Oracle、Sybase等都有很好的方案，常用的MySQL提供的Master/Slave也是類似的方案，您使用了什么樣的DB，就參考相應的解決方案來實施即可。
上面提到的數據庫集群由於在架構、成本、擴張性方面都會受到所采用DB類型的限制，於是我們需要從應用程序的角度來考慮改善系統架構，庫表散列是常用並且最有效的解決方案。
我們在應用程序中安裝業務和應用或者功能模塊將數據庫進行分離，不同的模塊對應不同的數據庫或者表，再按照一定的策略對某個頁面或者功能進行更小的數據庫散列，比如用戶表，按照用戶ID進行表散列，這樣就能夠低成本的提升系統的性能並且有很好的擴展性。
sohu的論壇就是采用了這樣的架構，將論壇的用戶、設置、帖子等信息進行數據庫分離，然后對帖子、用戶按照板塊和ID進行散列數據庫和表，最終可以在配置文件中進行簡單的配置便能讓系統隨時增加一台低成本的數據庫進來補充系統性能。
4、緩存
緩存一詞搞技術的都接觸過，很多地方用到緩存。網站架構和網站開發中的緩存也是非常重要。這里先講述最基本的兩種緩存。高級和分布式的緩存在后面講述。
架構方面的緩存，對Apache比較熟悉的人都能知道Apache提供了自己的緩存模塊，也可以使用外加的Squid模塊進行緩存，這兩種方式均可以有效的提高Apache的訪問響應能力。
網站程序開發方面的緩存，Linux上提供的Memory Cache是常用的緩存接口，可以在web開發中使用，比如用Java開發的時候就可以調用MemoryCache對一些數據進行緩存和通訊共享，一些大型社區使用了這樣的架構。另外，在使用web語言開發的時候，各種語言基本都有自己的緩存模塊和方法，PHP有Pear的Cache模塊，Java就更多了，.net不是很熟悉，相信也肯定有。
5、鏡像
鏡像是大型網站常采用的提高性能和數據安全性的方式，鏡像的技術可以解決不同網絡接入商和地域帶來的用戶訪問速度差異，比如ChinaNet和EduNet之間的差異就促使了很多網站在教育網內搭建鏡像站點，數據進行定時更新或者實時更新。在鏡像的細節技術方面，這里不闡述太深，有很多專業的現成的解決架構和產品可選。也有廉價的通過軟件實現的思路，比如Linux上的rsync等工具。
6、負載均衡
負載均衡將是大型網站解決高負荷訪問和大量並發請求采用的高端解決辦法。
負載均衡技術發展了多年，有很多專業的服務提供商和產品可以選擇，我個人接觸過一些解決方法，其中有兩個架構可以給大家做參考。
（1）、硬件四層交換
第四層交換使用第三層和第四層信息包的報頭信息，根據應用區間識別業務流，將整個區間段的業務流分配到合適的應用服務器進行處理。
第四層交換功能就像是虛IP，指向物理服務器。它傳輸的業務服從的協議多種多樣，有HTTP、FTP、NFS、Telnet或其他協議。這些業務在物理服務器基礎上，需要復雜的載量平衡算法。在IP世界，業務類型由終端TCP或UDP端口地址來決定，在第四層交換中的應用區間則由源端和終端IP地址、TCP和UDP端口共同決定。
在硬件四層交換產品領域，有一些知名的產品可以選擇，比如Alteon、F5等，這些產品很昂貴，但是物有所值，能夠提供非常優秀的性能和很靈活的管理能力。“Yahoo中國”當初接近2000台服務器，只使用了三、四台Alteon就搞定了。
(2)、軟件四層交換
大家知道了硬件四層交換機的原理后，基於OSI模型來實現的軟件四層交換也就應運而生，這樣的解決方案實現的原理一致，不過性能稍差。但是滿足一定量的壓力還是游刃有余的，有人說軟件實現方式其實更靈活，處理能力完全看你配置的熟悉能力。
軟件四層交換我們可以使用Linux上常用的LVS來解決，LVS就是Linux Virtual Server，他提供了基於心跳線heartbeat的實時災難應對解決方案，提高系統的強壯性，同時可供了靈活的虛擬VIP配置和管理功能，可以同時滿足多種應用需求，這對於分布式的系統來說必不可少。
一個典型的使用負載均衡的策略就是，在軟件或者硬件四層交換的基礎上搭建squid集群，這種思路在很多大型網站包括搜索引擎上被采用，這樣的架構低成本、高性能還有很強的擴張性，隨時往架構里面增減節點都非常容易。
對於大型網站來說，前面提到的每個方法可能都會被同時使用到，這里介紹得比較淺顯，具體實現過程中很多細節還需要大家慢慢熟悉和體會。有時一個很小的squid參數或者apache參數設置，對於系統性能的影響就會很大。
7、最新：CDN加速技術
什么是CDN？
CDN的全稱是內容分發網絡。其目的是通過在現有的Internet中增加一層新的網絡架構，將網站的內容發布到最接近用戶的網絡“邊緣”，使用戶可以就近取得所需的內容，提高用戶訪問網站的響應速度。
CDN有別於鏡像，因為它比鏡像更智能，或者可以做這樣一個比喻：CDN=更智能的鏡像+緩存+流量導流。因而，CDN可以明顯提高Internet網絡中信息流動的效率。從技術上全面解決由於網絡帶寬小、用戶訪問量大、網點分布不均等問題，提高用戶訪問網站的響應速度。
CDN的類型特點
CDN的實現分為三類：鏡像、高速緩存、專線。
鏡像站點（Mirror Site），是最常見的，它讓內容直接發布，適用於靜態和准動態的數據同步。但是購買和維護新服務器的費用較高，還必須在各個地區設置鏡像服務器，配備專業技術人員進行管理與維護。對於大型網站來說，更新所用的帶寬成本也大大提高了。
高速緩存，成本較低，適用於靜態內容。Internet的統計表明，超過80%的用戶經常訪問的是20%的網站的內容，在這個規律下，緩存服務器可以處理大部分客戶的靜態請求，而原始的服務器只需處理約20%左右的非緩存請求和動態請求，於是大大加快了客戶請求的響應時間，並降低了原始服務器的負載。
CDN服務一般會在全國范圍內的關鍵節點上放置緩存服務器。
專線，讓用戶直接訪問數據源，可以實現數據的動態同步。
CDN的實例
舉個例子來說，當某用戶訪問網站時，網站會利用全球負載均衡技術，將用戶的訪問指向到距離用戶最近的正常工作的緩存服務器上，直接響應用戶的請求。
當用戶訪問已經使用了CDN服務的網站時，其解析過程與傳統解析方式的最大區別就在於網站的授權域名服務器不是以傳統的輪詢方式來響應本地DNS的解析請求，而是充分考慮用戶發起請求的地點和當時網絡的情況，來決定把用戶的請求定向到離用戶最近同時負載相對較輕的節點緩存服務器上。
通過用戶定位算法和服務器健康檢測算法綜合后的數據，可以將用戶的請求就近定向到分布在網絡“邊緣”的緩存服務器上，保證用戶的訪問能得到更及時可靠的響應。
由於大量的用戶訪問都由分布在網絡邊緣的CDN節點緩存服務器直接響應了，這就不僅提高了用戶的訪問質量，同時有效地降低了源服務器的負載壓力。
附：某CDN服務商的服務說明
采用GCDN加速方式
采用了GCDN加速方式以后，系統會在瀏覽用戶和您的服務器之間增加一台GCDN服務器。瀏覽用戶訪問您的服務器時，一般靜態數據，如圖片、多媒體資料等數據將直接從GCDN服務器讀取，使得從主服務器上讀取靜態數據的交換量大大減少。
為VIP型虛擬主機而特加的VPN高速壓縮通道，使用高速壓縮的電信<==>網通、電信<==>國際（HK）、網通<==>國際（HK）等跨網專線通道，智能多線，自動獲取最快路徑，極速的動態實時並發響應速度，實現了網站的動態腳本實時同步，對動態網站有一個更加明顯的加速效果。
每個網絡運營商（電信、網通、鐵通、教育網）均有您服務器的GCDN服務器，無論瀏覽用戶是來自何處，GCDN都能讓您的服務器展現最快的速度！另外，我們將對您的數據進行實時備份，讓您的數據更安全！
8、降級
降級的最終目的是保證核心服務可用，即使是有損的。而且有些服務是無法降級的（如加入購物車、結算）。
降級預案
在進行降級之前要對系統進行梳理，看看系統是不是可以丟卒保帥；從而梳理出哪些必須誓死保護，哪些可降級；比如可以參考日志級別設置預案：
一般：比如有些服務偶爾因為網絡抖動或者服務正在上線而超時，可以自動降級；
警告：有些服務在一段時間內成功率有波動（如在95~100%之間），可以自動降級或人工降級，並發送告警；
錯誤：比如可用率低於90%,或者數據庫連接池被打爆了，或者訪問量突然猛增到系統能承受的最大閥值，此時可以根據情況自動降級或者人工降級；
嚴重錯誤：比如因為特殊原因數據錯誤了，此時需要緊急人工降級。
降級按照是否自動化可分為：自動開關降級和人工開關降級。
降級按照功能可分為：讀服務降級、寫服務降級。
降級按照處於的系統層次可分為：多級降級。
降級的功能點主要從服務端鏈路考慮，即根據用戶訪問的服務調用鏈路來梳理哪里需要降級：
頁面降級、頁面片段降級、頁面異步請求降級、服務功能降級、讀降級、寫降級
自動開關降級：超時降級、統計失敗次數降級、故障降級、限流降級
人工開關降級：讀服務降級、寫服務降級
9、分層
分層是企業應用系統中最常見的一種架構模式，將系統在橫向維度上切分成幾個部分，每個部分負責一部分相對簡單並比較單一的職責，然后通過上層對下層的依賴和調度組成一個完整的系統。
在網站的分層架構中，常見的為3層，即應用層、服務層、數據層。應用層具體負責業務和視圖的展示;服務層為應用層提供服務支持;數據庫提供數據存儲訪問服務，如數據庫、緩存、文件、搜索引擎等。
分層架構是邏輯上的，在物理部署上，三層架構可以部署在同一個物理機器上，但是隨着網站業務的發展，必然需要對已經分層的模塊分離部署，即三層結構分別部署在不同的服務器上，是網站擁有更多的計算資源以應對越來越多的用戶訪問。
所以雖然分層架構模式最初的目的是規划軟件清晰的邏輯結構以便於開發維護，但在網站的發展過程中，分層結構對網站支持高並發向分布式方向的發展至關重要。
10、限流
在開發高並發系統時有三把利器用來保護系統：緩存、降級和限流。緩存的目的是提升系統訪問速度和增大系統能處理的容量，可謂是抗高並發流量的銀彈；而降級是當服務出問題或者影響到核心流程的性能則需要暫時屏蔽掉，待高峰或者問題解決后再打開；而有些場景並不能用緩存和降級來解決，比如稀缺資源（秒殺、搶購）、寫服務（如評論、下單）、頻繁的復雜查詢（評論的最后幾頁），因此需有一種手段來限制這些場景的並發/請求量，即限流。
限流的目的是通過對並發訪問/請求進行限速或者一個時間窗口內的的請求進行限速來保護系統，一旦達到限制速率則可以拒絕服務（定向到錯誤頁或告知資源沒有了）、排隊或等待（比如秒殺、評論、下單）、降級（返回兜底數據或默認數據，如商品詳情頁庫存默認有貨）。
一般開發高並發系統常見的限流有：限制總並發數（比如數據庫連接池、線程池）、限制瞬時並發數（如nginx的limit_conn模塊，用來限制瞬時並發連接數）、限制時間窗口內的平均速率（如Guava的RateLimiter、nginx的limit_req模塊，限制每秒的平均速率）；其他還有如限制遠程接口調用速率、限制MQ的消費速率。另外還可以根據網絡連接數、網絡流量、CPU或內存負載等來限流。
11、隔離
線程隔離：
線程隔離主要是指線程池隔離，在實際使用時，我們會把請求分類，然后交給不同的線程池處理。當一種業務的請求處理發生問題時，不會將故障擴散到其他線程池，從而保證其他服務可用。
進程隔離
由於傳統的系統所有功能都集中在一個系統中，為了避免系統其中一個模塊功能出現問題導致整個系統無法使用的情況發生，將其該系統拆分成多子系統實現物理隔離，故通過進程隔離使得某一個子系統出現問題時不影響到其他子系統。
集群隔離
隨着調用方的增多，當秒殺（並發量特別大功能）類似的服務被刷新會影響到其他服務的穩定性時，應該考慮為秒殺（並發量特別大功能）類似的服務提供單獨的服務集群，即分服務分組，這樣當某一個分組出現問題時，不會影響到其他分組，從而實現了故障隔離願景。
機房隔離
隨着對系統可用性的要求，會進行多機房部署，每一個機房的服務都有自己的服務分組，本機房的服務應該只調用本機房的服務，不進行跨機房調用。其中，一個機房服務發生問題時，可以通過DNS/負載均衡將請求全部切到另一個機房，或者考慮服務能自動重試其他機房的服務，從而提升系統可用性。
讀寫隔離
為了提高數據訪問，一般采用redis主從模式將讀和寫進群分離，在正常情況下，當主redis集群出現問題時，從redis集群還是可以用的，從而不影響用戶的訪問。
動靜隔離
例如當用戶訪問如結算頁時，如果JS/CSS等靜態資源也在結算頁系統中時，很可能因為訪問量太大導致帶寬被打滿導致出現不可用。
為了不影響結算等用戶操作的功能，將其JS/CSS等靜態資源靜態化與用戶操作功能分開部署。
資源隔離
最常見的資源如磁盤、CPU、網絡；對於寶貴的資源都會存在競爭問題。
我們可以使用JIMDB數據同步時要dump數據，SSD盤容量用了50%以上，dump到同一塊磁盤時遇到了容量不足的問題，我們通過單獨掛一塊SAS盤來專門同步數據。還有如使用Docker容器時，有的容器寫磁盤非常頻繁，因此要考慮為不同的容器掛載不同的磁盤。
12、超時重試
在實際開發過程中，我們見過太多故障時因為沒有設置超時或者設置得不對而造成的，而這些故障都是因為沒有意識到超時設置的重要性而造成的。如果應用不設置超時，則可能會導致請求響應慢，慢請求積累導致連鎖反應，甚至造成應用雪塌。而有些中間件或者框架在超時后進行重試（例如dubbo默認重試兩次），讀服務天然適合重試，但寫服務大多不能重試（如寫訂單、支付等），重試次數太多會導致多倍請求流量。
例如模擬了Ddos攻擊（分布式拒絕服務（DDoS:Distributed Denial of Service）攻擊指借助於客戶/服務器技術，將多個計算機聯合起來作為攻擊平台，對一個或多個目標發動DDoS,通常，攻擊者使用一個偷竊帳號將DDoS主控程序安裝在一個計算機上，在一個設定的時間主控程序將與大量代理程序通訊，代理程序已經被安裝在網絡上的許多計算機上。代理程序收到指令時就發動攻擊。利用客戶/服務器技術，主控程序能在幾秒鍾內激活成百上千次代理程序的運行。），后果可能是災難，因此，務必設置合理的重試機制，並且應該和熔斷、快速失敗機制配合。所以在進行代碼Review時，一定記得Review超時與重試機制。
13、自動化
具體有自動化發布過程，自動化代碼管理、自動化測試、自動化安全檢測、自動化部署、自動化監控、自動化報警、自動化失效轉移、自動化失效恢復等。
14、冗余
網站需要7×24小時連續運行，那么就得有相應的冗余機制，以防某台機器宕掉時無法訪問，而冗余則可以通過部署至少兩台服務器構成一個集群實現服務高可用。數據庫除了定期備份還需要實現冷熱備份。甚至可以在全球范圍內部署災備數據中心。
15、安全
網站在安全架構方面有許多模式：通過密碼和手機校驗碼進行身份認證;登錄、交易需要對網絡通信進行加密;為了防止機器人程序濫用資源，需要使用驗證碼進行識別;對常見的XSS攻擊、SQL注入需要編碼轉換;垃圾信息需要過濾等。
16、集群
對於用戶訪問集中的模塊需要將獨立部署的服務器集群化，即多台服務器部署相同的應用構成一個集群，通過負載均衡設備共同對外提供服務。
服務器集群能夠為相同的服務提供更多的並發支持，因此當有更多的用戶訪問時，只需要向集群中加入新的機器即可;另外可以實現當其中的某台服務器發生故障時，可以通過負載均衡的失效轉移機制將請求轉移至集群中其他的服務器上，因此可以提高系統的可用性。
17、分布式
對於大型網站，分層和分隔的一個主要目的是為了切分后的模塊便於分布式部署，即將不同模塊部署在不同的服務器上，通過遠程調用協同工作。分布式意味着可以使用更多的計算機完成同樣的工作，計算機越多，CPU、內存、存儲資源就越多，能過處理的並發訪問和數據量就越大，進而能夠為更多的用戶提供服務。
在網站應用中，常用的分布式方案有一下幾種.
分布式應用和服務：將分層和分隔后的應用和服務模塊分布式部署，可以改善網站性能和並發性、加快開發和發布速度、減少數據庫連接資源消耗。
分布式靜態資源：網站的靜態資源如JS、CSS、Logo圖片等資源對立分布式部署，並采用獨立的域名，即人們常說的動靜分離。靜態資源分布式部署可以減輕應用服務器的負載壓力;通過使用獨立域名加快瀏覽器並發加載的速度。
分布式數據和存儲：大型網站需要處理以P為單位的海量數據，單台計算機無法提供如此大的存儲空間，這些數據庫需要分布式存儲。
分布式計算：目前網站普遍使用Hadoop和MapReduce分布式計算框架進行此類批處理計算，其特點是移動計算而不是移動數據，將計算程序分發到數據所在的位置以加速計算和分布式計算。
18、壓力測試
線下壓力測試
通過如Jmeter,Apac,he ab 壓力測試系統的某一個接口等（如登錄、查詢訂單）或者某一個組件（例如數據庫連接池），然后進行調優（如調優JVM參數，優化代碼等），實現單個接口或者組件的性能最優。
線上壓力測試
線上壓力測試份方式非常多，按讀分為讀壓、寫壓測和混合壓測，按照數據仿真度分為仿真壓力測試和引流壓力測試，按照給用戶提供服務分為隔離集群壓力測試和線上集群壓力測試。
19、系統優化和容災
拿到全面的壓力測試報告后，接下來就是分析報告，然后進行一些有針對性的優化，如硬件升級、系統擴容、參數調優、代碼優化（代碼同步改異步）、架構優化（如加緩存、讀寫分離、歷史數據歸檔）等。在擴容時也需要考慮容災，比如分組部署、跨機房部署。容災是通過部署多組（單機房或多機房）相同系統，當其中一組出現問題時，可以切換到另一個分組，保證系統可用
20、應急預案
在系統壓力測試之后發現一些系統瓶頸，在系統優化之后會提升系統吞吐量並降低響應時間，容災之后的系統可用性得以保障，但還是會存在一些風險，如網絡抖動、某台機器負載過高、某個服務變慢、數據庫Load值過高，為了防止因為這些問題而出現系統雪崩，需要針對這些情況制定應急預案，從而在出現突發情況時，有響應的措施來解決掉這些問題。
應急預案可按照如下幾步進行：首先進行系統分級，然后進行全鏈路分析、配置監控，最后制定應急預案。
————————————————
版權聲明：本文為CSDN博主「Mu_Transformed」的原創文章，遵循CC 4.0 BY-SA版權協議，轉載請附上原文出處鏈接及本聲明。
原文鏈接：https://blog.csdn.net/u010900284/java/article/details/83541101