1、系統架構圖如下:

2、系統各層介紹
以上采用五層的邏輯架構,第一層客戶層,第二層前端優化層,第三層應用層,第四層服務層,第五層數據存儲層,每層的介紹如下:
1、客戶層:支持PC瀏覽器和手機APP,可以直接通過IP訪問,反向代理服務器。
2、前端層:使用DNS負載均衡,CDN本地加速及反向代理服務。
3、應用層:網站應用集群;按照業務進行垂直拆分,比如應用商城,產品服務等。
4、服務層:提供公共服務,比如產品升級服務,搜索服務,賬號管理服務等。
5、數據層:支持關系型數據庫集群(支持讀寫分離),NOSQL集群,分布式文件系統集群,及分布式Cache
3、各部分技術介紹
3.1 基礎設施技術介紹:

分布式緩存
在高並發環境下,大量的讀、寫請求涌向數據庫,磁盤的處理速度和內存處理顯然不在一個數量級,從減輕數據庫壓力和提高系統響應速度兩個角度來考慮,一般都會在數據庫之前加一層緩存。由於單台機器的內存資源和承載能力有限,並且如果大量使用本地緩存,也會使相同的數據被不同的節點存儲多份,對內存資源造成較大的浪費,因此才催生出分布式緩存。
持久化存儲
隨着科技的不斷發展,越來越多的人參與到互聯網中,人們在網絡上的活動,如發表心情動態、微博、購物、評論等,這些信息最終被轉換為二進制字節的數據存儲下來。面對並發訪問量的激增和數據幾何級的增長,如何存儲正在迅速膨脹並且不斷積累的數據,以及應對日益增長的用戶訪問頻次,成為亟待解決的問題。
消息系統
在分布式系統中,消息系統應用十分廣泛,消息可以作為應用間通信的一種方式,消息被保存在隊列中,知道被接收者取出,由於消息發送者不需要同步等待消息接收者的響應,消息的異步接收降低了系統集成的耦合度,提升了分布式系統協作的效率,使得系統能夠更快地響應用戶,提供更高的吞吐。當系統處理峰值壓力時,分布式消息隊列還能夠作為緩沖,削峰填谷,緩解集群的壓力,避免整個系統被壓垮。
開源的消息系統有很多,包括Apache的ActiveMQ,Apache的Kafka、RabbitMQ、memcacheQ等。
搜索引擎
這里說的垂直化搜索引擎,與大家所熟知的Google和Baidu等互聯網搜索引擎存在着一些差別,垂直搜索引擎主要針對企業內部的自由數據的檢索,而不像Google和Baidu等搜索平台,采用網絡爬蟲對全網數據進行爬取,從而建立索引並提供給用戶進行檢索、模糊匹配的需求,解決數據庫like查詢效率低下的問題,又能夠解決分布式環境下,由於采用分庫分表或者使用NoSQL數據庫,導致無法進行多表聯合查詢或者進行復雜查詢的問題。
其它
除了前面所提到的分布式緩存、持久化存儲、分布式消息系統、搜索引擎,大型的分布式系統的背后,還依賴於其他支撐系統,還包含實時計算、離線計算、分布式文件系統、日志收集系統、監控系統、數據倉庫等,還有CDN系統、負載均衡系統、消息推送系統、自動化運維系統等。
3.2 基礎設施技術技術特點

4、開發中的故障案例分析
(1)寫日志引發的故障:
故障分析:由於日志等級為info或debug,導致產生的日志異常多,磁盤被撐爆。
實例: 在圖片服務器的Nginx服務器上,由於日志打印的過多,導致磁盤爆滿,最終導致不能寫入數據信息。
解決方案: 需要將Nginx的配置信息修改為Error,定時檢測磁盤空間是否滿,及時增加硬盤空間。
(2) 高並發訪問數據庫引發的故障:
故障分析:當SQL的執行頻率非常高時,會使得數據庫的Load持續升高,影響數據庫的性能。
解決方案:盡量增加表的索引,減少全表掃描,嘗試使用分布式緩存和緩存設備。
(3)高並發情況下,鎖引發的故障:
故障分析:由於鎖的使用,某個操作,執行時間較長(如遠程過程調用),長期占有鎖,導致程序阻塞,當這個鎖被釋放時,其它 線程得以執行。
解決方案:使用鎖操作時要謹慎,慎之又慎。
(4)緩存應發的故障
故障分析:由於緩存服務器集群的關閉,導致數據查詢的壓力全部都到數據庫層面,導致數據庫的壓力較大。
解決方案:緩存服務器是當今網站中不可或缺的一部分,我們要像管理其他服務器一樣,認真管理緩存服務器。
(5)應用啟動不同步引發的故障
故障分析:由於啟動應用服務器的不同步,如 Apahce + Tomcat 應用,服務 Apache先啟動,會導致過多的請求到Apache上,導致Tomcat已啟動后,過多的請求壓力到Tomcat上,嚴重情況下導致Tomcat的崩潰。
解決方案:要嚴格按照指定的順序進行啟動應用,避免“姑娘還沒有穿好衣服,老鴇就把客人給領進來了”,所以老鴇領客人進來時,要先確認姑娘有沒有准備好。
(6)大文件讀寫獨占磁盤引起的故障
故障分析:文件服務器中保存的有大文件和小文件,小文件有幾十K 到上百K,大文件有幾十M到上百M,會導致用戶下載大文件時,獨占磁盤操作,影響小文件的讀寫操作。
解決方案:將圖片服務器小的文件,使用專用的存儲服務器如阿里的分布式文件服務器,大的文件使用分布式文件服務器如HDFS服務器
(7)濫用生產環境引起的故障
故障分析:開發人員盡量不要對運行環境進行處理
解決方案:將正式庫的權限交給運維人員,嚴禁開發人員對正式數據進行處理。
(8)不規范流程引起的故障
故障分析:應用發布后,引起數據庫LOAD迅速飆升,檢查用戶代碼是否有變化,是否緩存給注釋掉。如注釋掉緩存代碼。
解決方案:代碼提交前一定要對代碼進行DIFF比較,確認沒有提交不該提交的代碼(如測試注釋的代碼,正式部署需要使用的)
(9)不好的編程習慣引起的故障
故障分析:程序在處理一個輸入的對象時,不明確輸入的對象是否為空。
解決方案:要養成好的編碼習慣,輸入的對象盡量保證不為空,必要時構造空對象。
5、開發過程中的心得體會
