原文:记一次CDH集群日志数据清理

背景 集群运行一段时间 大概一月多 后,cloudera manager管理界面出现爆红,爆红的组件有hdfs zookeeper。 发现问题 点击详细内容查看,报日志空间不够的错误。初步判断是各个组件的日志数据把空间占满了。 查看各个目录下磁盘占用情况 cdh的各组件的日志一般在 var log目录下,因此主要关注 查看 var log下使用空间较大的文件夹,并由大到小排列 还有一个是Cloud ...

2019-09-03 19:44 3 3563 推荐指数:

查看详情

一次CDH修改IP

因机房服务器搬迁,需要修改CDH ip ,集群中有6台服务器. 其中配置了ldap,其中卡在了ldap中的坑太深,所以记录一下. 一、服务器IP等地址修改 1.首先在安装cloudera-manager的主机上,停止所有的cloudera管理进程 service ...

Tue Jun 11 00:50:00 CST 2019 0 748
清理CDH日志

/ts/*/partition*/* -rf # clear cdh log rm -rf /var/l ...

Fri Jun 12 03:41:00 CST 2020 0 561
一次ceph集群的严重故障

问题:集群状态,坏了一个盘,pg状态好像有点问题[root@ceph-1 ~]# ceph -s cluster 72f44b06-b8d3-44cc-bb8b-2048f5b4acfe health HEALTH_WARN 64 pgs degraded ...

Wed Jan 02 23:44:00 CST 2019 0 5801
一次 Kafka 集群线上扩容

前段时间收到某个 Kafka 集群的生产客户端反馈发送消息耗时很高,于是花了一段时间去排查这个问题,最后该集群进行扩容,由于某些主题的当前数据量实在太大,在对这些主题迁移过程中话费了很长一段时间,不过这个过程还算顺利,因为在迁移过程中也做足了各方面的调研,包括分区重平衡过程中对客户端的影响,以及对 ...

Fri Dec 20 04:41:00 CST 2019 0 1813
记录一次CDH集群邮件报警功能的设置

1.通用的配置CDH邮件报警设置 进入cloudera manager service页面,选择配置 左侧菜单Alert Publisher 勾选【启用电子邮件警报】 邮件服务协议smtp,如果使用ssl加密的,请选择smtps 输入邮件服务器主机名称或者IP 输入邮件 ...

Tue Dec 03 06:22:00 CST 2019 0 370
一次Sqoop抽数据异常

1. 环境 Hadoop  Sqoop awsEMR 2.8.5 1.4.7 5.26.0 2.错误描述 在使用Sqoop抽取MySQL数据时,使用hdfs作为缓存,s3作为hive的存储地址 ...

Tue Sep 24 18:24:00 CST 2019 0 414
一次mysql数据恢复

确切的说更像是一次数据迁移。 背景介绍: 操作系统:Windows Server 2008 R2 数据库版本:MySQL 5.5 数据库的安装目录与数据文件目录不在同一个磁盘,数据文件所在的目录磁盘损坏。而后通过数据恢复工具恢复数据 ...

Sat Jan 21 23:50:00 CST 2017 0 8305
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM