微服務要求
服務協作
服務治理
服務治理
1 懷疑第三方
堅持一條信念：“所有第三方服務都不可靠”，不管第三方什么天花亂墜的承諾。基於這樣的信念，我們需要有以下行動。
1.1 有兜底，制定好業務降級方案
如果第三方服務掛掉怎么辦？我們業務也跟着掛掉？顯然這不是我們希望看到的結果，如果能制定好降級方案，那將大大提高服務的可靠性。舉幾個例子以便大家更好的理解。
比如我們做個性化推薦服務時，需要從用戶中心獲取用戶的個性化數據，以便代入到模型里進行打分排序，但如果用戶中心服務掛掉，我們獲取不到數據了，那么就不推薦了？顯然不行，我們可以在cache里放置一份熱門商品以便兜底；
又比如做一個數據同步的服務，這個服務需要從第三方獲取最新的數據並更新到mysql中，恰好第三方提供了兩種方式：1）一種是消息通知服務，只發送變更后的數據；2）一種是http服務，需要我們自己主動調用獲取數據。我們一開始選擇消息同步的方式，因為實時性更高，但是之后就遭遇到消息遲遲發送不過來的問題，而且也沒什么異常，等我們發現一天時間已過去，問題已然升級為故障。合理的方式應該兩個同步方案都使用，消息方式用於實時更新，http主動同步方式定時觸發（比如1小時）用於兜底，即使消息出了問題，通過主動同步也能保證一小時一更新。
有些時候第三方服務表面看起來正常，但是返回的數據是被污染的，這時還有什么方法兜底嗎？有人說這個時候除了通知第三方快速恢復數據，基本只能干等了。舉個例子，我們做移動端的檢索服務，其中需要調用第三方接口獲取數據來構建倒排索引，如果第三方數據出錯，我們的索引也將出錯，繼而導致我們的檢索服務篩選出錯誤的內容。第三方服務恢復數據最快要半小時，我們構建索引也需要半小時，即可能有超過1個多小時的時間檢索服務將不能正常使用，這是不可接受的。如何兜底呢？我們采取的方法是每隔一段時間保存全量索引文件快照，一旦第三方數據源出現數據污染問題，我們先按下停止索引構建的開關，並快速回滾到早期正常的索引文件快照，這樣盡管數據不是很新（可能1小時之前），但是至少能保證檢索有結果，不至於對交易產生特別大的影響。
1.2 遵循快速失敗原則，一定要設置超時時間
某服務調用的一個第三方接口正常響應時間是50ms，某天該第三方接口出現問題，大約有15%的請求響應時間超過2s，沒過多久服務load飆高到10以上，響應時間也非常緩慢，即第三方服務將我們服務拖垮了。
為什么會被拖垮？沒設置超時！我們采用的是同步調用方式，使用了一個線程池，該線程池里最大線程數設置了50，如果所有線程都在忙，多余的請求就放置在隊列里中。如果第三方接口響應時間都是50ms左右，那么線程都能很快處理完自己手中的活，並接着處理下一個請求，但是不幸的是如果有一定比例的第三方接口響應時間為2s，那么最后這50個線程都將被拖住，隊列將會堆積大量的請求，從而導致整體服務能力極大下降。正確的做法是和第三方商量確定個較短的超時時間比如200ms，這樣即使他們服務出現問題也不會對我們服務產生很大影響。
1.3 適當保護第三方，慎重選擇重試機制
需要結合自己的業務以及異常來仔細斟酌是否使用重試機制。又如有些異常是接口處理超時異常，這個時候就需要結合業務來判斷了，有些時候重試往往會給后方服務造成更大壓力，啟到雪上加霜的效果。
2 防備使用方
這里又要堅持一條信念：“所有的使用方都不靠譜”，不管使用方什么天花亂墜的保證。基於這樣的信念，我們需要有以下行動。
2.1 設計一個好的api（RPC、Restful），避免誤用
如果你的接口讓很多人誤用，那要好好反思自己的接口設計了，接口設計雖然看着簡單，但是學問很深，建議大家好好看看Joshua Bloch的演講《How to Design a Good API & Why it Matters（如何設計一個好的API及為什么這很重要）》以及《Java API 設計清單》。
a） 遵循接口最少暴露原則
使用方用多少接口我們就提供多少，因為提供的接口越多越容易出現亂用現象，言多必失嘛。此外接口暴露越多自己維護成本就越高。
b） 不要讓使用方做接口可以做的事情
如果使用方需要調用我們接口多次才能進行一個完整的操作，那么這個接口設計就可能有問題。比如獲取數據的接口，如果僅僅提供getData(int id);接口，那么使用方如果要一次性獲取20個數據，它就需要循環遍歷調用我們接口20次，不僅使用方性能很差，也無端增加了我們服務的壓力，這時提供getDataList(List<Integer> idList);接口顯然是必要的。
c）避免長時間執行的接口
還是以獲取數據方法為例：getDataList(List<Integer> idList); 假設一個用戶一次傳1w個id進來，我們的服務估計沒個幾秒出不來結果，而且往往是超時的結果，用戶怎么調用結果都是超時異常，那怎么辦？限制長度，比如限制長度為100，即每次最多只能傳100個id，這樣就能避免長時間執行，如果用戶傳的id列表長度超過100就報異常。
加了這樣限制后，必須要讓使用方清晰地知道這個方法有此限制。之前就遇到誤用的情況，某用戶一個訂單買了超過100個商品，該訂單服務需要調用商品中心接口獲取該訂單下所有商品的信息，但是怎么調用都失敗，而且異常也沒打出什么有價值的信息，后來排查好久才得知是商品中心接口做了長度限制。
怎么才能做到加了限制，又不讓用戶誤用呢？
兩種思路：1）接口幫用戶做了分割調用操作，比如用戶傳了1w個id，接口內部分割成100個id列表（每個長度100），然后循環調用，這樣對使用方屏蔽了內部機制，對使用方透明；2）讓用戶自己做分割，自己寫循環顯示調用，這樣需要讓用戶知道我們方法做了限制，具體方法有：1）改變方法名，比如getDataListWithLimitLength(List<Integer> idList); ；2）增加注釋；3）如果長度超過 100，很明確地拋出異常，很直白地進行告知。
d）參數易用原則
避免參數長度太長，一般超過3個后就較難使用，那有人說了我參數就是這么多，那怎么辦？寫個參數類嘛！
此外避免連續的同類型的參數，不然很容易誤用。能用其它類型如int等的盡量不要用String類型，這也是避免誤用的方法。
e）異常
接口應當最真實的反應出執行中的問題，更不能用聰明的代碼做某些特別處理。
2.2 流量控制，按服務分配流量，避免濫用
相信很多做過高並發服務的同學都碰到類似事件：某天A君突然發現自己的接口請求量突然漲到之前的10倍，沒多久該接口幾乎不可使用，並引發連鎖反應導致整個系統崩潰。
如何應對這種情況？生活給了我們答案：比如老式電閘都安裝了保險絲，一旦有人使用超大功率的設備，保險絲就會燒斷以保護各個電器不被強電流給燒壞。同理我們的接口也需要安裝上“保險絲”，以防止非預期的請求對系統壓力過大而引起的系統癱瘓，當流量過大時，可以采取拒絕或者引流等機制。具體限流算法參見《接口限流實踐》一文。
3 做好自己
從需求分析、架構設計 、代碼編寫、測試、code review、上線、線上服務運維等階段都可以重點展開介紹，這次簡單分享下架構設計、代碼編寫上的幾條經驗原則。
3.1 單一職責原則
單一職責原則，在我們的需求分析、架構設計、編碼等各個階段都非常有指導意義。在需求分析階段，單一職責原則可以界定我們服務的邊界，如果服務邊界如果沒界定清楚，各種合理的不合理的需求都接，最后導致服務出現不可維護、不可擴展、故障不斷的悲哀結局。
對於架構來講，單一職責也非常重要。比如讀寫模塊放置在一起，導致讀服務抖動非常厲害，如果讀寫分離那將大大提高讀服務的穩定性（讀寫分離）；比如一個服務上同時包含了訂單、搜索、推薦的接口，那么如果推薦出了問題可能影響訂單的功能，那這個時候就可以將不同接口拆分為獨立服務，並獨立部署，這樣一個出問題也不會影響其他服務（資源隔離）；又比如我們的圖片服務使用獨立域名、並放置到cdn上，與其它服務獨立（動靜分離）。
從代碼角度上講，一個類只干一件事情，如果你的類干了多個事情，就要考慮將他分開。這樣做的好處是非常清晰，以后修改起來非常方便，對其它代碼的影響就很小。再細粒度看類里的方法，一個方法也只干一個事情，即只有一個功能，如果干兩件事情，那就把它分開，因為修改一個功能可能會影響到另一個功能。
3.2 控制資源的使用
寫代碼腦子一定要綳緊一根弦，認知到我們所在的機器資源是有限的。機器資源有哪些？cpu、內存、網絡、磁盤等，如果不做好保護控制工作，一旦某一資源滿負荷，很容易導致出現線上問題。
3.2.1 CPU資源怎么限制？
a）計算算法優化
如果服務需要進行大量的計算，比如推薦排序服務，那么務必對你的計算算法進行優化，比如筆者曾經對地理空間距離計算這一重度使用的算法進行了優化，取得了較好的效果，詳見《地理空間距離計算優化》一文。
b）鎖
對於很多服務而言，沒有那么多耗費計算資源的算法，但cpu使用率也很高，這個時候需要看看鎖的使用情況，我的建議是如無必要，盡量不用顯式使用鎖。
c） 習慣問題
比如寫循環的時候，千萬要檢查看看是否能正確退出，有些時候一不小心，在某些條件下就成為死循環，很著名的案例就是《多線程下HashMap的死循環問題》。比如集合遍歷時候使用性能較差的遍歷方式、String +檢查，如果有超過多個String相加，是否使用StringBuffer.append？
d）盡量使用線程池
通過線程池來限制線程的數目，避免線程過多造成的線程上下文切換的開銷。
e）jvm參數調優
jvm參數也會影響cpu的使用，如《發布或重啟線上服務時抖動問題解決方案》。
3.2.2 內存資源怎么限制？
a）Jvm參數設置
通過JVM參數的設置來限制內存使用，jvm參數調優比較靠經驗，有一篇朋友寫的好文可以參考《Linux與JVM的內存關系分析》。
b）初始化java集合類大小
使用java集合類的時候盡量初始化大小，在長連接服務等耗費內存資源的服務中這種優化非常重要；
c）使用內存池/對象池
d）使用線程池的時候一定要設置隊列的最大長度
之前看過好多起故障都是由於隊列最大長度沒有限制最后導致內存溢出。
e）如果數據較大避免使用本地緩存
如果數據量較大，可以考慮放置到分布式緩存如redis、tair等，不然gc都可能把自己服務卡死；
f）對緩存數據進行壓縮
比如之前做推薦相關服務時，需要保存用戶偏好數據，如果直接保存可能有12G，后來采用短文本壓縮算法直接壓縮到6G，不過這時一定要考慮好壓縮解壓縮算法的cpu使用率、效率與壓縮率的平衡，一些壓縮率很高但是性能很差的算法，也不適合線上實時調用。
有些時候直接使用probuf來序列化之后保存，這樣也能節省內存空間。
g）清楚第三方軟件實現細節，精確調優
在使用第三方軟件時，只有清楚細節后才知道怎么節約內存，這點我在實際工作中深有體會，比如之前在閱讀過lucene的源碼后發現我們的索引文件原來是可以壓縮的，而這在說明文檔中都找不到，具體參考《lucene索引文件大小優化小結》一文。
3.2.3 網絡資源怎么限制？
a）減少調用的次數
減少調用的次數？經常看到有同學在循環里用redis/tair的get，如果意識到這里面的網絡開銷的話就應該使用批量處理；又如在推薦服務中經常遇到要去多個地方去取數據，一般采用多線程並行去取數據，這個時候不僅耗費cpu資源，也耗費網絡資源，一種在實際中常常采用的方法就是先將很多數據離線存儲到一塊 ，這時候線上服務只要一個請求就能將所有數據獲取。
b）減少傳輸的數據量
一種方法是壓縮后傳輸，還有一種就是按需傳輸，比如經常遇到的getData(int id)，如果我們返回該id對應的Data所有信息，一來人家不需要，二來數據量傳輸太大，這個時候可以改為getData(int id, List<String> fields)，使用方傳輸相應的字段過來，服務端只返回使用方需要的字段即可。
3.2.4 磁盤資源怎么限制？
打日志要控制量，並定期清理。1）只打印關鍵的異常日志；2）對日志大小進行監控報警。我有一次就遇到了第三方服務掛了，然后我這邊就不斷打印調用該第三方服務異常的日志，本來我的服務有降級方案，如果第三方服務掛了會自動使用其它服務，但是突然收到報警說我服務掛了，登上機器一看才知道是磁盤不夠導致的崩潰；3）定期對日志進行清理，比如用crontab，每隔幾天對日志進行清理；4）打印日志到遠端，對於一些比較重要的日志可以直接將日志打印到遠端HDFS文件系統里；
3.3 避免單點
不要把雞蛋放在一個籃子上！從大層次上講服務可以多機房部署、異地多活；從自己設計角度上講，服務應該能做到水平擴展。
對於很多無狀態的服務，通過nginx、zookeeper能輕松實現水平擴展；
對一些job類型的服務，怎么避免單點呢，畢竟只能在一個節點上運行，可以參考《Quartz應用與集群原理分析》一文；
對數據服務來說，怎么避免單點呢？簡而言之、可以通過分片、分層等方式來實現。
全棧小團隊
智能化平台
------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
希望對您系統架構，軟件項目開發,運維管理，系統架構與研發管理體系, 信息安全, 企業信息化等有幫助。 其它您可能感興趣的文章：
DevOps的基本原則與介紹
Docker與CI持續集成/CD
持續交付中高效率與高質量
持續集成CI與自動化測試
軟件研發工程基礎設施
容器化實踐金融業案例一
雲計算參考架構幾例
微服務與Docker介紹
互聯網直播平台架構案例一
高可用架構案例一
某互聯網公司廣告平台技術架構
某大型電商雲平台實踐
雲計算參考架構幾例
移動應用App測試與質量管理一
全面的軟件測試
著名ERP廠商的SSO單點登錄解決方案介紹一
軟件項目風險管理介紹
企業項目化管理介紹
智能企業與信息化之一
由企業家基本素質想到的
敏捷軟件質量保證的方法與實踐
構建高效的研發與自動化運維
IT運維監控解決方案介紹
IT持續集成之質量管理
人才公司環境與企業文化
企業績效管理系統之平衡記分卡
企業文化、團隊文化與知識共享
高效能的團隊建設
餐飲連鎖公司IT信息化解決方案一
如有想了解更多軟件研發 , 系統 IT集成 , 企業信息化，項目管理，企業管理 等資訊，請關注我的微信訂閱號：
![MegadotnetMicroMsg_thumb1_thumb1_thu[1]](/image/aHR0cHM6Ly9pbWFnZXMwLmNuYmxvZ3MuY29tL2Jsb2cvMTUxNzIvMjAxNDEyLzA2MTQzNjM5MjE3ODAwNy5qcGc=.png "MegadotnetMicroMsg_thumb1_thumb1_thu[1]")
作者：Petter Liu
出處：http://www.cnblogs.com/wintersun/
本文版權歸作者和博客園共有，歡迎轉載，但未經作者同意必須保留此段聲明，且在文章頁面明顯位置給出原文連接，否則保留追究法律責任的權利。
該文章也同時發布在我的獨立博客中-Petter Liu Blog。