在HDFS中,數據和元數據是獨立的實體。文件被分割成block存儲在DataNode中,並在整個集群中復制。HDFS 命名空間樹和相關的元數據作為對象保存在 NameNode 的內存中(並備份到磁盤上edits+Fsimage),每個對象一般占用大約 150 個字節。inode和塊列表一起定義命名空間的元數據。
一個文件的元數據所需的總內存 = 150B x ( 1個文件的inode + (block數 x 副本數量 ))。 由此可以根據數據量來預估NameNode節點的內存大小。
在HDFS中,數據和元數據是獨立的實體。文件被分割成block存儲在DataNode中,並在整個集群中復制。HDFS 命名空間樹和相關的元數據作為對象保存在 NameNode 的內存中(並備份到磁盤上edits+Fsimage),每個對象一般占用大約 150 個字節。inode和塊列表一起定義命名空間的元數據。
一個文件的元數據所需的總內存 = 150B x ( 1個文件的inode + (block數 x 副本數量 ))。 由此可以根據數據量來預估NameNode節點的內存大小。
本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。