HDFS中DataNode工作機制


1.DataNode工作機制

1)一個數據塊在datanode上以文件形式存儲在磁盤上,包括兩個文件,一個是數據本身,一個是元數據(包括數據塊的長度,塊數據的校驗和,以及時間戳)。

2)DataNode啟動后向namenode注冊,通過后,周期性(1小時)的向namenode上報所有的塊信息

3)心跳是每3秒一次心跳返回結果帶有namenode給該datanode的命令如復制塊數據到另一台機器,或刪除某個數據塊。如果超過10分鍾沒有收到某個datanode的心跳,則認為該節點不可用

4)集群運行中可以安全加入和退出一些機器。

2.數據完整性

1)當DataNode讀取block的時候,它會計算checksum

2)如果計算后的checksum,與block創建時值不一樣,說明block已經損壞。

3)client讀取其他DataNode上的block.

4)datanode在其文件創建后周期驗證checksum

3.DataNode掉線時限參數設置

datanode進程死亡或者網絡故障造成datanode無法與namenode通信,namenode不會立即把該節點判定為死亡,要經過一段時間,這段時間暫稱作超時時長。HDFS默認的超時時長為10分鍾+30秒。如果定義超時時間為timeout,則超時時長的計算公式為:

timeout  = 2 * dfs.namenode.heartbeat.recheck-interval + 10 * dfs.heartbeat.interval

而默認的dfs.namenode.heartbeat.recheck-interval 大小為5分鍾,dfs.heartbeat.interval默認為3秒。

需要注意的是hdfs-site.xml 配置文件中的heartbeat.recheck.interval的單位為毫秒dfs.heartbeat.interval的單位為秒

<property>
    <name>dfs.namenode.heartbeat.recheck-interval</name>
    <value>300000</value>
</property>
<property>
    <name> dfs.heartbeat.interval </name>
    <value>3</value>
</property>

 

1

)當DataNode讀取block的時候,它會計算checksum

2)如果計算后的checksum,與block創建時值不一樣,說明block已經損壞。

3client讀取其他DataNode上的block.

4datanode在其文件創建后周期驗證checksum

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM