原文:大数据高可用集群环境安装与配置(01)——服务器基础配置

这段时间在做大数据方面的开发,使用Hadoop HBase Spark Spart Streaming Kafka Docker Kubernetes等等平台与组件,在服务器运维方面也在模仿着别人重复造轮子。要基于这些系统进行开发,就必须搭建一套稳定的服务器环境,虽然网上有大量的文章与教程,但在学习使用的过程中,还是踩了无数个坑,熬了不知多少个夜晚与周末,直到现在才算是真正上手,能快速搭建好平台, ...

2019-12-28 21:09 0 1121 推荐指数:

查看详情

大数据安全】Kerberos集群安装配置

1. 概述 Kerberos是一种计算机网络认证协议,它允许某实体在非安全网络环境下通信,向另一个实体以一种安全的方式证明自己的身份。它也指由麻省理工实现此协议,并发布的一套免费软件。它的设计主要针对客户-服务器模型,并提供了一系列交互认证——用户和服务器都能验证对方的身份。Kerberos协议 ...

Sun Aug 12 02:57:00 CST 2018 0 5202
【原创】大数据基础之Logstash(4)可用

logstash可用体现为不丢数据(前提为服务器短时间内不可用后可恢复比如重启服务器或重启进程),具体有两个方面: 进程重启(服务器重启) 事件消息处理失败 在logstash中对应的解决方案为: Persistent Queues Dead Letter ...

Tue Apr 09 01:30:00 CST 2019 0 1005
大数据入门:Hadoop安装环境配置及检测

@ 目录 1.导包Hadoop包 2.配置环境变量 3.把winutil包拷贝到Hadoop bin目录下 4.把Hadoop.dll放到system32下 5.检测Hadoop是否正常安装 5.1在maven项目中检测,将配置文件放入 ...

Sun Nov 25 23:23:00 CST 2018 0 1242
大数据技术之HA 可用

HDFS HA可用 1.1 HA概述 1)所谓HA(High Available),即可用(7*24小时不中断服务)。 2)实现可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制:HDFS的HA和YARN的HA。 3)Hadoop2.0之前,在HDFS集群中 ...

Tue Apr 02 17:11:00 CST 2019 0 866
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM