在HDFS中,数据和元数据是独立的实体。文件被分割成block存储在DataNode中,并在整个集群中复制。HDFS 命名空间树和相关的元数据作为对象保存在 NameNode 的内存中(并备份到磁盘上edits+Fsimage),每个对象一般占用大约 150 个字节。inode和块列表一起定义命名空间的元数据。
一个文件的元数据所需的总内存 = 150B x ( 1个文件的inode + (block数 x 副本数量 ))。 由此可以根据数据量来预估NameNode节点的内存大小。
在HDFS中,数据和元数据是独立的实体。文件被分割成block存储在DataNode中,并在整个集群中复制。HDFS 命名空间树和相关的元数据作为对象保存在 NameNode 的内存中(并备份到磁盘上edits+Fsimage),每个对象一般占用大约 150 个字节。inode和块列表一起定义命名空间的元数据。
一个文件的元数据所需的总内存 = 150B x ( 1个文件的inode + (block数 x 副本数量 ))。 由此可以根据数据量来预估NameNode节点的内存大小。
本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。