花费 13 ms
Hadoop记录-Hadoop集群重要监控指标

通用监控指标 对于每个RPC服务应该监控 RpcProcessingTimeAvgTime(PRC处理的平均时间) 通常hdfs在异常任务突发大量访问时,这个参数会突然变得很大,导致其他用户访问 ...

Tue Dec 18 20:49:00 CST 2018 0 2374
Hadoop记录-Hadoop监控指标汇总

系统参数监控metrics load_one 每分钟的系统平均负载 load_fifteen 每15分钟的系统平均负载 load_five ...

Thu Apr 04 18:12:00 CST 2019 0 1361
Hadoop记录-JMX参数

Yarn metrics参数说明 获取Yarn jmx信息:curl -i http://xxx:8088/jmx Hadoop:service=ResourceManager,name=FSOp ...

Sat Apr 20 22:53:00 CST 2019 0 1028
Hadoop记录-HDFS balancer配置

HDFS balancer配置(可通过CM配置)dfs.datanode.balance.max.concurrent.moves 并行移动的block数量,默认5 dfs.datanode.ba ...

Tue Mar 12 06:55:00 CST 2019 0 922
Hadoop记录-HDFS配额Quota

设置文件数配额 hdfs dfsadmin -setQuota <N> <directory>...<directory> 例如:设置目录下的文件总数为100 ...

Wed Feb 27 19:34:00 CST 2019 0 805
Hadoop记录-Federation联邦机制

在Hadoop2.0之前,HDFS的单NameNode设计带来诸多问题: 单点故障、内存受限,制约集群扩展性和缺乏隔离机制(不同业务使用同一个NameNode导致业务相互影响)等 为了解决这些问题 ...

Tue Feb 19 03:17:00 CST 2019 0 811
Hadoop记录-hive merge小文件

1. Map输入合并小文件对应参数:set mapred.max.split.size=256000000; #每个Map最大输入大小set mapred.min.split.size.per.no ...

Wed Apr 10 23:57:00 CST 2019 0 718
hadoop记录-hive常见设置

分区表 set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nonstrict;create tab ...

Sun Apr 28 23:20:00 CST 2019 0 638

 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM