原文:hadoop运维笔记

一. 故障处理部分 . . spark提交任务报错java.lang.NoClassDefFoundError: com alibaba fastjson JSON 报错原因: 在运行环境没有找到fastjson的依赖库 解决方法: 在SPARK HOME jars 添加fastjson VERSION.jar包。 例如我的环境下SPARK HOME是 usr local service spar ...

2019-02-17 14:13 0 975 推荐指数:

查看详情

Hadoop操作

1. 处理hadoop的namenode宕机 处理措施: 进入hadoop的bin目录,重启namenode服务 操作命令: cd path/to/hadoop/bin ./hadoop-daemon.sh start namenode 2. 处理hadoop ...

Fri Jan 04 17:09:00 CST 2013 0 3134
Nginx日志笔记

在分析服务器运行情况和业务数据时,nginx日志是非常可靠的数据来源,而掌握常用的nginx日志分析命令的应用技巧则有着事半功倍的作用,可以快速进行定位和统计。 1)Nginx日志的标准格式( ...

Wed Feb 28 21:15:00 CST 2018 0 4120
Hadoop日常问题汇总

一:namenode出现missing blocks 日常巡检CDH集群和HDP集群发现有些namenode下有很多missing blocks ,hadoop数据存储单位为块。一块64M,这些Missing大多因为元数据丢失而毁坏,很难恢复。就行硬盘故障一样,需要fsck并且delete ...

Sat May 12 01:24:00 CST 2018 0 3266
hadoop 性能调优与

hadoop 性能调优与 硬件选择 1) hadoop运行环境 2) 原则一: 主节点可靠性要好于从节点   原则二:多路多核,高频率cpu、大内存, namenode 100万文件的元数据要消耗800M内存,内存决定了集群保存文件数的总量 ...

Fri Dec 23 19:57:00 CST 2016 0 2273
hadoop问题记录

hadoop综合问题记录 1、hdfs无法启动 错误: 解决: # su hdfs //切换到hdfs用户,若关闭了hdfs的权限则可略过这一步# hadoop dfsadmin -safemode leave //让namenode离开安全模式 2、oozie启动 ...

Wed Apr 25 22:16:00 CST 2018 0 2037
Kubernetes 学习笔记

一、Kubernetes 介绍 Kubernetes是一个全新的基于容器技术的分布式架构领先方案, 它是Google在2014年6月开源的一个容器集群管理系统,使用Go语言开发,Kuberne ...

Sun Jun 12 02:01:00 CST 2016 1 14990
MongoDB集群笔记

前面的文章介绍了MongoDB副本集和分片集群的做法,下面对MongoDB集群的日常维护操作进行小总结: MongDB副本集故障转移功能得益于它的选举机制。选举机制采用了Bul ...

Wed Jan 03 02:37:00 CST 2018 0 8650
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM