1. 处理hadoop的namenode宕机 处理措施: 进入hadoop的bin目录,重启namenode服务 操作命令: cd path/to/hadoop/bin ./hadoop-daemon.sh start namenode 2. 处理hadoop ...
一. 故障处理部分 . . spark提交任务报错java.lang.NoClassDefFoundError: com alibaba fastjson JSON 报错原因: 在运行环境没有找到fastjson的依赖库 解决方法: 在SPARK HOME jars 添加fastjson VERSION.jar包。 例如我的环境下SPARK HOME是 usr local service spar ...
2019-02-17 14:13 0 975 推荐指数:
1. 处理hadoop的namenode宕机 处理措施: 进入hadoop的bin目录,重启namenode服务 操作命令: cd path/to/hadoop/bin ./hadoop-daemon.sh start namenode 2. 处理hadoop ...
在分析服务器运行情况和业务数据时,nginx日志是非常可靠的数据来源,而掌握常用的nginx日志分析命令的应用技巧则有着事半功倍的作用,可以快速进行定位和统计。 1)Nginx日志的标准格式( ...
一:namenode出现missing blocks 日常巡检CDH集群和HDP集群发现有些namenode下有很多missing blocks ,hadoop数据存储单位为块。一块64M,这些Missing大多因为元数据丢失而毁坏,很难恢复。就行硬盘故障一样,需要fsck并且delete ...
hadoop 性能调优与运维 硬件选择 1) hadoop运行环境 2) 原则一: 主节点可靠性要好于从节点 原则二:多路多核,高频率cpu、大内存, namenode 100万文件的元数据要消耗800M内存,内存决定了集群保存文件数的总量 ...
1.zookeeper报错 2017 - 12 - 13 16 : 47 : 55 , 968 [myid:] - INFO [ma ...
hadoop综合问题记录 1、hdfs无法启动 错误: 解决: # su hdfs //切换到hdfs用户,若关闭了hdfs的权限则可略过这一步# hadoop dfsadmin -safemode leave //让namenode离开安全模式 2、oozie启动 ...
一、Kubernetes 介绍 Kubernetes是一个全新的基于容器技术的分布式架构领先方案, 它是Google在2014年6月开源的一个容器集群管理系统,使用Go语言开发,Kuberne ...
前面的文章介绍了MongoDB副本集和分片集群的做法,下面对MongoDB集群的日常维护操作进行小总结: MongDB副本集故障转移功能得益于它的选举机制。选举机制采用了Bul ...