http://www.zdnet.com.cn/wiki-GSLB
GSLB
GSLB 是英文Gobal Server Load Balance的縮寫，意思是全局負載均衡。 作用：實現在廣域網(包括互聯網)上不同地域的服務器間的流量調配，保證使用最佳的服務器服務離自己最近的客戶，從而確保訪問質量。
分類：基於DNS實現、基於重定向實現、基於路由協議實現。特點：能通過判斷服務器的負載，包括CPU占用、帶寬占用等數據，決定服務器的可用性，同時能判斷用戶(訪問者)與服務器間的鏈路狀況，選擇鏈路狀況最好的服務器。因此GSLB是對服務器和鏈路進行綜合判斷來決定由哪個地點的服務器來提供服務，實現異地服務器群服務質量的保證。
使用范圍：所有有多個站點的系統，最常見的是在CDN系統中作為核心的流量調度系統
常見的全局負載均衡策略
方式一:基於DNS重定向
當用戶在瀏覽器訪問時,首先要進行DNS解析,即查找出的IP地址,然后用戶與該IP地址建立TCP連接訪問網站內容,DNS流量分配方式工作在DNS解析過程中?通過在域的DNS服務器上增加一條NS記錄,即的NS紀錄指向位於某一全局負載均衡設備(不失一般性,假設為位於分布1的L4交換機)的控制IP地址,對的解析將由該Layer4 Switch負責,由DNS的工作過程可以知道如下過程:
1)用戶將DNS請求發到其本地DNS服務器,該DNS服務器通過一系列的DNS查詢得知，的授權解析服務器是分布1節點的L4交換機。
2)L4交換機收到DNS查詢請求后，將解析為經過計算后所選定的最優站點的IP地址(負載不重，距離用戶最進)，這個地址可能是主站點的FARMIP，也可能是分站點的FARMIP地址。
3)各分布節點接受用戶請求並最終將流媒體內容發送給用戶。
方式二:基於網絡就近性判斷
與方式一相比,本全局負載均衡策略的不同點也是最大優點在於:省中心節點的Layer4 Switch不僅需要解析相應的域名,同時還根據用戶真實IP地址來進行最優站點計算和判斷,最終將用戶流量重定向相應的服務節點上?當用戶請求的服務使用的協議不具有類似於“HTTP302"的重定向命令時,該策略的順利實現利用RadwareWSD產品所獨具的“廣域三角重定向"能力來完成服務的重定向?
當用戶訪問已經加入CDN服務的流媒體服務網站時,WSDNP首先會通過TCP/IP握手獲得客戶的IP,並在靜態最近路徑表中查找該IP所屬的網段是否存在,如存在該客戶即被透明的導向到靜態最近路徑表中所設定的優先級最高的分布點?如沒有該記錄則NP會以同樣方式去查動態最近路徑表,如仍沒有記錄NP會通知各分布點WSD一同去測各分布點離用戶的距離及時延,並通過專有協議LRP?PRP報告,確定最優站點,然后通過HTTP重定向或全局三角重定向技術來實現將用戶導向到最佳CDN節點,與此同時,該IP地址所在的C類網段會被添加至動態最近路徑表,供今后使用;最佳節點的CDN的服務器(節點上的高速緩存)負責將用戶請求的內容提供給用戶
CDN負載均衡
CDN全局負載均衡
負責通過靜態或動態的方式為用戶的請求在CDN范圍內的各個站點中選擇最佳的訪問站點?這是實現CDN性能優化的關鍵?通常采用專業負載均衡設備?全局負載均衡與內容請求路由實現機制
內容服務的請求路由機制(RRSRequestRoutingSystem)是CDN網絡規划中最關鍵的因素之一,它的設計直接關系到CDN的核心思想:就近服務,能否實現?而全局負載均衡策略又是整個內容請求路由機制設計的基石,它的主要內容包括就近性判斷和服務重定向機制,全局負載均衡的成功與否直接關系到最終用戶的訪問成功與質量?
Radware提出有關內容發布網CDN全局負載均衡與內容請求路由的實現機制?
CDN系統設計原則
內容路由的設計涉及到就近性判斷?重定向機制和流量分配策略等問題?本方案的內容路由機制設計基於如下事實和考慮:
對於流媒體服務或者其他傳輸量較大的服務的特征要求內容請求必須(或最大程度地)由距用戶最近的分布點提供服務,只有當該節點無法提供服務能力時,才由確定為次佳節點提供備份服務?這就要求內容路由機制以靜態內容請求路由為主,並有確定的備份請求路由方案;以靜態內容路由為主,輔助於確定的備份路由策略同時是網絡管理和性能調優的需求;請求路由的設計必須考慮CDN作為應用支撐平台,必須支持不同的ICP的服務提供模式,即無論ICP是否采用域名來提供服務,CDN都應有相應的內容請求路由機制保證用戶能得到就近的邊緣服務?ICP在提供流媒體服務時,不僅有采用域名的,也有許多情況下直接給出IP地址的方式提供服務?這就要求CDN的內容請求路由機制要支持直接給出IP地址的服務模式;客戶訪問網絡時,其客戶機中的LocalDNS設置有可能不是本地城域的LocalDNS地址?這就要求在內容路由設計中對該狀況作出相應的處理?
http://www.itkoala.com/?p=1796
網絡速度優化及案例
在中國互聯網，基礎網絡永遠是產品體驗的絆腳石，特別是移動互聯網時代更加明顯，能看到的所有與基礎網絡相關的名詞都可以制約網站速度，在規划篇也花了很大篇幅去介紹網絡屬性和策略，其中IDC、用戶具有區域屬性和運營商屬性是主要矛盾，正因為有這樣的國情才放大了對IDC、CDN就近接入、BGP多運營商接入、GSLB智能調度的依賴，結合個人優化體會，匯總網絡層的優化實踐如下表：
| 網絡優化項 | 優化說明 | 備注 |
| 分區域的IDC覆蓋 | 用戶分布及IDC覆蓋能力具有區域性，如果簡單理解，北方用戶和IDC多為聯通，南方則為電信，各小運營商分布不均，簡單IDC覆蓋所在的地理位置周邊具有明顯優勢，按地理位置分單IDC，多IDC，區域IDC，全國IDC，按城市可分為一線、二線IDC。全國分區域的一線城市的多IDC分布具有最大收益。 | 一線北京、上海、廣州IDC網絡覆蓋能力最好，價格最貴，穩定性最高 |
| 分區域的ISP覆蓋 | IDC覆蓋能力具有運營商屬性，同運營商互聯互通無問題，跨運營商訪問速度要慢3~5倍，同時運營商也具備區域屬性，所以針對注流運營商電信、聯通及小運營商要進行細分，才可以將網絡速度做到極致。個人的體會，目前騰訊網絡分布是做得最優勢的，全國五大區域14個大規模核心IDC互聯互通，58個CDN節點。 | 除主流運營商分，移動、教育網等小運營商用戶體驗越加重要，特別是移動 |
| 減少TDO跨網解析 | TDO（Traffic Distribution Optimizer）, 可以理解是一種用戶定向策略， DNS以TDO為依據，將用戶解析到對應的運營商及服務器，保證使用最佳的服務器服務最近的用戶，從而確保訪問速度，正確的定向可以提升用戶訪問速度，反之將適得其反。TDO因歷史遺留及新入網用戶等原因，會存在不能識別情況，要盡最大可能進行識別，准確率要保持>99%，不能識別的需要通過解析策略進行規避。 | TDO的更新和完善是一個持久的工作，需要自動化和持續投入人力 |
| 最大化使用CDN價值 | 中國擁有世界上最復雜的基礎網絡，也使得ＣＤＮ成為中國互聯網一大特色，CDN即解決用戶到IDC最短距離，又減帶寬成本、減機架成本、減電成本、減少IDC建設成本等，可以說CDN是速度優化不可缺少的一個環節，速度優化必使用CDN，正確的使用CDN，可以將網絡接入速度做到極致。 | CDN是速度和成本的雙刃劍，互聯網大公司都選擇自建，將這兩個價值最大化，可想其重要性 |
| 使用GSLB智能調度 | GSLB（Global Server Load Balance），全局負載均衡，包含DNS解析，同時又具備健康檢測、測速並智能調度，自動容災等能力，將用戶解析到最快的IDC和服務器，將問題服務器和集群屏蔽和故障自動處理等。 | GSLB做到最后，對於互聯網產品就像人的大腦一樣重要 |
| 使用BGP改善小運營商用戶體驗 | 應用區分運營商限制，必需要分開IDC部署，主流運營商必需要區域運營商，但小運營商眾多且用戶占比小，單獨部署不現實，最好的平衡是使用多運營商單IP接入，只要部署一套即可。在當下中國PC網絡運營商增加、移動網絡風起雲涌的時代，BGP的價值將會放大，騰訊、百度都有自建BGP機房。 | BGP有助於提升移動互聯網產品的體驗，前題是有專線或內網的保障通信 |
主要網絡優化案例分享如下：
1、IDC優化案例，為了改善百度單北京電信IDC覆蓋全國存在的瓶頸，百度在華東啟用了杭州電信IDC，監測方法是通過百度客戶端監測平台分析如下：
1）覆蓋同一50KB廣告物料，杭州電信IDC全國總下載時間要比北京電信IDC快26%，杭州電信下載速度、首包時間、建立連接時間、內容下載時間都要優於北京電信IDC。
| 任務名稱 | 總下載時間(s) | 下載速度(KB/s) | 頁面大小(KB) | 首包時間(s) | 連接建立時間(s) | 內容下載時間(s) | 樣本數(個) |
| 北京電信IDC_50KB廣告 | 0.38 | 154.52 | 50.46 | 0.057 | 0.05 | 0.28 | 33544 |
| 杭州電信IDC_50KB廣告 | 0.3 | 243.42 | 50.43 | 0.045 | 0.04 | 0.21 | 34679 |
2）兩個IDC都體現出明顯的IDC區域覆蓋屬性，北京電信IDC在北京周邊覆蓋要優先於杭州電信，但杭州電信IDC在華東、華南各省覆蓋要比北京快40%+。
| 北京電信覆蓋全國電信 | 杭州電信覆蓋電國 |
 |
 |
2、CDN優化案例，百度檢索廣告是百度商業產品中核心模塊，優化前一直部署在北京IDC，經過CDN優化后，全國提速35%左右，電信提速46%，聯通提速34%，小運營商提速70%+，超越競爭對手cnzz20%+，從北京IDC分流到自建CDN，帶寬成本減少2000萬/年，按這個服務每年25%的帶寬增量，兩年可減少成本4500~5000萬，可騰挪出80~100台服務器。
1）從運營商維度分析，電信、移動、教育網等小運營商提速非常明顯，整體看這個服務速度受限於負載和架構、網絡環境，拆分和分流到全國IDC后，速度有了質的飛躍。
| 運營商 | 20KB | 速度提升 | 30KB | 速度提升 | ||||||
| 優化前 | 優化后 | 優化前 | 優化后 | |||||||
| 總下載時間(s) | 可用性(%) | 總下載時間(s) | 可用性(%) | 總下載時間(s) | 可用性(%) | 總下載時間(s) | 可用性(%) | |||
| 全國 | 0.38 | 99.96 | 0.21 | 99.99 | 44.74% | 0.43 | 99.94 | 0.23 | 100 | 46.51% |
| 電信 | 0.39 | 99.96 | 0.21 | 99.99 | 46.15% | 0.44 | 99.95 | 0.23 | 99.99 | 47.73% |
| 聯通 | 0.32 | 99.98 | 0.2 | 100 | 37.50% | 0.35 | 99.97 | 0.23 | 100 | 34.29% |
| 移動 | 0.86 | 100 | 0.41 | 100 | 52.33% | 1.16 | 99.81 | 0.39 | 100 | 66.38% |
| 教育網 | 1.26 | 100 | 0.3 | 99.84 | 76.19% | 1.47 | 100 | 0.38 | 100 | 74.15% |
2）從分段維度分析，很明顯看出，電信快速比0.25s以內加載完的比例20KB由19%提升到72%，30KB由11%提升到67%，提速明顯。
| 總下載時間 | 20KB | 30KB | ||||||
| 電信 | 聯通 | 電信 | 聯通 | |||||
| 優化前 | 優化后 | 優化前 | 優化后 | 優化前 | 優化后 | 優化前 | 優化后 | |
| 0~0.25s | 19.13 | 72.71 | 41.08 | 73.99 | 11.08 | 67.43 | 35.84 | 68.31 |
| 0.25~0.5s | 62.69 | 22.23 | 46.23 | 20.97 | 60.99 | 25.53 | 47.85 | 25.08 |
| 0.5~0.75s | 13.82 | 4.56 | 9.36 | 4.16 | 21.17 | 5.81 | 11.47 | 5.14 |
| 0.75~1.0s | 3.04 | 0.51 | 3 | 0.88 | 4.26 | 1.23 | 3.29 | 1.48 |
| 1.0~1.25s | 1.31 | 0 | 0.33 | 0 | 1.91 | 0 | 1.54 | 0 |
| 1.25s以上 | 0 | 0 | 0 | 0 | 0.59 | 0 | 0 | 0 |
3）從趨勢維度分析，紅色代表優化后的趨勢，可以看到，相比2個月前，優化后提速明顯。
3、TDO優化案例，百度因歷史原因，舊版TDO存在跨網解析現象，導致有一定比例的跨網訪問，經過優化后，速度提升明顯，詳細分析如下。
1）通過第三方質量監測（基調）發現百度商業產品下域名存在8%左右的電信用戶解析到了聯通服務器，同時騰訊、阿里等互聯網公司未有跨網解析現象。
| 優化前 | 優化后 |
 |
 |
2）通過Apnic、MaxMind識別未知local dns，並采用業界認可的不跨運營商解析的原則，生成TDO，跨網解析率由8%~10%，降低至<1%，正確解析率=99.9%，基本消除跨網解析。
| 全國總下載時間提升11.6%、建立連接時間提升8.7%。 | 廣西、陝西跨網嚴重的省份總下載時間提升100%+。 |
 |
 |
騰訊用全國五大區（深圳、上海、天津、成都、西安）IDC和５４個ＣＤＮ節點覆蓋保障全國網絡接入，詳細分布如下圖所示，通過GSLB分運營商、分省份、分IDC進行精確調度和容災，在相同應用響應和硬件的前題下，最大限度符合基礎網絡國情，將速度做到極致，也是目前國內網絡速度優化最佳實踐。
