Zookeeper 3、Zookeeper工作原理(詳細)


Zookeeper 3Zookeeper工作原理(詳細)

1Zookeeper的角色

  » 領導者(leader),負責進行投票的發起和決議,更新系統狀態

  » 學習者(learner),包括跟隨者(follower)和觀察者(observer),follower用於接受客戶端請求並想客戶端返回結果,在選主過程中參與投票

  » Observer可以接受客戶端連接,將寫請求轉發給leader,但observer不參加投票過程,只同步leader的狀態,observer的目的是為了擴展系統,提高讀取速度

  » 客戶端(client),請求發起方

    

 

 

 

 • Zookeeper的核心是原子廣播,這個機制保證了各個Server之間的同步。實現這個機制的協議叫做Zab協

     議。Zab協議有兩種模式,它們分別是恢復模式(選主)和廣播模式(同步)。當服務啟動或者在領導者

   崩潰后,Zab就進入了恢復模式,當領導者被選舉出來,且大多數Server完成了和leader的狀態同步以后

    ,恢復模式就結束了。狀態同步保證了leader和Server具有相同的系統狀態。

  • 為了保證事務的順序一致性,zookeeper采用了遞增的事務id號(zxid)來標識事務。所有的提議(

   proposal)都在被提出的時候加上了zxid。實現中zxid是一個64位的數字,它高32位是epoch用來標識

     leader關系是否改變,每次一個leader被選出來,它都會有一個新的epoch,標識當前屬於那個leader的

   統治時期。低32位用於遞增計數。

  • 每個Server在工作過程中有三種狀態:

    LOOKING:當前Server不知道leader是誰,正在搜尋

    LEADING:當前Server即為選舉出來的leader

    FOLLOWING:leader已經選舉出來,當前Server與之同步

  其他文檔:http://www.cnblogs.com/lpshou/archive/2013/06/14/3136738.html

2Zookeeper 的讀寫機制

  » Zookeeper是一個由多個server組成的集群

  » 一個leader,多個follower

  » 每個server保存一份數據副本

  » 全局數據一致

  » 分布式讀寫

  » 更新請求轉發,由leader實施

3Zookeeper 的保證 

  » 更新請求順序進行,來自同一個client的更新請求按其發送順序依次執行

  » 數據更新原子性,一次數據更新要么成功,要么失敗

  » 全局唯一數據視圖,client無論連接到哪個server,數據視圖都是一致的

  » 實時性,在一定事件范圍內,client能讀到最新數據

4Zookeeper節點數據操作流程

    

 

 

   

    注:1.在Client向Follwer發出一個寫的請求

      2.Follwer把請求發送給Leader

      3.Leader接收到以后開始發起投票並通知Follwer進行投票

      4.Follwer把投票結果發送給Leader

      5.Leader將結果匯總后如果需要寫入,則開始寫入同時把寫入操作通知給Leader,然后commit;

      6.Follwer把請求結果返回給Client

      

    • Follower主要有四個功能:

    • 1. 向Leader發送請求(PING消息、REQUEST消息、ACK消息、REVALIDATE消息);

    • 2 .接收Leader消息並進行處理;

    • 3 .接收Client的請求,如果為寫請求,發送給Leader進行投票;

    • 4 .返回Client結果。

    • Follower的消息循環處理如下幾種來自Leader的消息:

    • 1 .PING消息: 心跳消息;

    • 2 .PROPOSAL消息:Leader發起的提案,要求Follower投票;

    • 3 .COMMIT消息:服務器端最新一次提案的信息;

    • 4 .UPTODATE消息:表明同步完成;

    • 5 .REVALIDATE消息:根據Leader的REVALIDATE結果,關閉待revalidate的session還是允許其接受消息;

    • 6 .SYNC消息:返回SYNC結果到客戶端,這個消息最初由客戶端發起,用來強制得到最新的更新。

5Zookeeper leader 選舉  

  • 半數通過

    – 3台機器 掛一台 2>3/2

    – 4台機器 掛2台 2!>4/2

  

  • A提案說,我要選自己,B你同意嗎?C你同意嗎?B說,我同意選A;C說,我同意選A。(注意,這里超過半數了,其實在現實世界選舉已經成功了。

   但是計算機世界是很嚴格,另外要理解算法,要繼續模擬下去。)

  • 接着B提案說,我要選自己,A你同意嗎;A說,我已經超半數同意當選,你的提案無效;C說,A已經超半數同意當選,B提案無效。

  • 接着C提案說,我要選自己,A你同意嗎;A說,我已經超半數同意當選,你的提案無效;B說,A已經超半數同意當選,C的提案無效。

  • 選舉已經產生了Leader,后面的都是follower,只能服從Leader的命令。而且這里還有個小細節,就是其實誰先啟動誰當頭。

  

  

      

  

 

6zxid

  • znode節點的狀態信息中包含czxid, 那么什么是zxid呢?

  • ZooKeeper狀態的每一次改變, 都對應着一個遞增的Transaction id, 該id稱為zxid. 由於zxid的遞增性質, 如果zxid1小於zxid2, 那么zxid1肯定先於zxid2發生.

   創建任意節點, 或者更新任意節點的數據, 或者刪除任意節點, 都會導致Zookeeper狀態發生改變, 從而導致zxid的值增加.

7Zookeeper工作原理

  » Zookeeper的核心是原子廣播,這個機制保證了各個server之間的同步。實現這個機制的協議叫做Zab協議。Zab協議有兩種模式,它們分別是恢復模式和廣播模式。

   當服務啟動或者在領導者崩潰后,Zab就進入了恢復模式,當領導者被選舉出來,且大多數server的完成了和leader的狀態同步以后,恢復模式就結束了。

   狀態同步保證了leader和server具有相同的系統狀態

  » 一旦leader已經和多數的follower進行了狀態同步后,他就可以開始廣播消息了,即進入廣播狀態。這時候當一個server加入zookeeper服務中,它會在恢復模式下啟動,

   發現leader,並和leader進行狀態同步。待到同步結束,它也參與消息廣播。Zookeeper服務一直維持在Broadcast狀態,直到leader崩潰了或者leader失去了大部分

   的followers支持。

  » 廣播模式需要保證proposal被按順序處理,因此zk采用了遞增的事務id號(zxid)來保證。所有的提議(proposal)都在被提出的時候加上了zxid。

   實現中zxid是一個64為的數字,它高32位是epoch用來標識leader關系是否改變,每次一個leader被選出來,它都會有一個新的epoch。低32位是個遞增計數。

  » 當leader崩潰或者leader失去大多數的follower,這時候zk進入恢復模式,恢復模式需要重新選舉出一個新的leader,讓所有的server都恢復到一個正確的狀態。 

  » 每個Server啟動以后都詢問其它的Server它要投票給誰。

  » 對於其他server的詢問,server每次根據自己的狀態都回復自己推薦的leader的id和上一次處理事務的zxid(系統啟動時每個server都會推薦自己)

  » 收到所有Server回復以后,就計算出zxid最大的哪個Server,並將這個Server相關信息設置成下一次要投票的Server。

  » 計算這過程中獲得票數最多的的sever為獲勝者,如果獲勝者的票數超過半數,則改server被選為leader。否則,繼續這個過程,直到leader被選舉出來  

  » leader就會開始等待server連接

  » Follower連接leader,將最大的zxid發送給leader

  » Leader根據follower的zxid確定同步點

  » 完成同步后通知follower 已經成為uptodate狀態

  » Follower收到uptodate消息后,又可以重新接受client的請求進行服務了

8、數據一致性與paxos 算法  

  • 據說Paxos算法的難理解與算法的知名度一樣令人敬仰,所以我們先看如何保持數據的一致性,這里有個原則就是:

  • 在一個分布式數據庫系統中,如果各節點的初始狀態一致,每個節點都執行相同的操作序列,那么他們最后能得到一個一致的狀態。

  • Paxos算法解決的什么問題呢,解決的就是保證每個節點執行相同的操作序列。好吧,這還不簡單,master維護一個

     全局寫隊列,所有寫操作都必須 放入這個隊列編號,那么無論我們寫多少個節點,只要寫操作是按編號來的,就能保證一

   致性。沒錯,就是這樣,可是如果master掛了呢。

  • Paxos算法通過投票來對寫操作進行全局編號,同一時刻,只有一個寫操作被批准,同時並發的寫操作要去爭取選票,

   只有獲得過半數選票的寫操作才會被 批准(所以永遠只會有一個寫操作得到批准),其他的寫操作競爭失敗只好再發起一

   輪投票,就這樣,在日復一日年復一年的投票中,所有寫操作都被嚴格編號排 序。編號嚴格遞增,當一個節點接受了一個

   編號為100的寫操作,之后又接受到編號為99的寫操作(因為網絡延遲等很多不可預見原因),它馬上能意識到自己 數據

   不一致了,自動停止對外服務並重啟同步過程。任何一個節點掛掉都不會影響整個集群的數據一致性(總2n+1台,除非掛掉大於n台)。

  總結

  • Zookeeper 作為 Hadoop 項目中的一個子項目,是 Hadoop 集群管理的一個必不可少的模塊,它主要用來控制集群中的數據,

   如它管理 Hadoop 集群中的 NameNode,還有 Hbase 中 Master Election、Server 之間狀態同步等。\

   關於Paxos算法可以查看文章 Zookeeper全解析——Paxos作為靈魂

   推薦書籍:《從Paxos到Zookeeper分布式一致性原理與實踐》

 

9Observer  

  • Zookeeper需保證高可用和強一致性;

  • 為了支持更多的客戶端,需要增加更多Server;

  • Server增多,投票階段延遲增大,影響性能;

  • 權衡伸縮性和高吞吐率,引入Observer

  • Observer不參與投票;

  • Observers接受客戶端的連接,並將寫請求轉發給leader節點;

  • 加入更多Observer節點,提高伸縮性,同時不影響吞吐率

10 為什么zookeeper集群的數目,一般為奇數個?

  •Leader選舉算法采用了Paxos協議;

  •Paxos核心思想:當多數Server寫成功,則任務數據寫成功如果有3個Server,則兩個寫成功即可;如果有4或5個Server,則三個寫成功即可。

  •Server數目一般為奇數(3、5、7)如果有3個Server,則最多允許1個Server掛掉;如果有4個Server,則同樣最多允許1個Server掛掉由此,

    我們看出3台服務器和4台服務器的的容災能力是一樣的,所以為了節省服務器資源,一般我們采用奇數個數,作為服務器部署個數。

11Zookeeper 的數據模型 

  » 層次化的目錄結構,命名符合常規文件系統規范

  » 每個節點在zookeeper中叫做znode,並且其有一個唯一的路徑標識

  » 節點Znode可以包含數據和子節點,但是EPHEMERAL類型的節點不能有子節點

  » Znode中的數據可以有多個版本,比如某一個路徑下存有多個數據版本,那么查詢這個路徑下的數據就需要帶上版本

  » 客戶端應用可以在節點上設置監視器

  » 節點不支持部分讀寫,而是一次性完整讀寫

12Zookeeper 的節點

  » Znode有兩種類型,短暫的(ephemeral)和持久的(persistent)

  » Znode的類型在創建時確定並且之后不能再修改

  » 短暫znode的客戶端會話結束時,zookeeper會將該短暫znode刪除,短暫znode不可以有子節點

  » 持久znode不依賴於客戶端會話,只有當客戶端明確要刪除該持久znode時才會被刪除

  » Znode有四種形式的目錄節點

  » PERSISTENT(持久的)

  » EPHEMERAL(暫時的)

  » PERSISTENT_SEQUENTIAL(持久化順序編號目錄節點)

  » EPHEMERAL_SEQUENTIAL(暫時化順序編號目錄節點)

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM