原文:大數據高可用集群環境安裝與配置(01)——服務器基礎配置

這段時間在做大數據方面的開發,使用Hadoop HBase Spark Spart Streaming Kafka Docker Kubernetes等等平台與組件,在服務器運維方面也在模仿着別人重復造輪子。要基於這些系統進行開發,就必須搭建一套穩定的服務器環境,雖然網上有大量的文章與教程,但在學習使用的過程中,還是踩了無數個坑,熬了不知多少個夜晚與周末,直到現在才算是真正上手,能快速搭建好平台, ...

2019-12-28 21:09 0 1121 推薦指數:

查看詳情

大數據安全】Kerberos集群安裝配置

1. 概述 Kerberos是一種計算機網絡認證協議,它允許某實體在非安全網絡環境下通信,向另一個實體以一種安全的方式證明自己的身份。它也指由麻省理工實現此協議,並發布的一套免費軟件。它的設計主要針對客戶-服務器模型,並提供了一系列交互認證——用戶和服務器都能驗證對方的身份。Kerberos協議 ...

Sun Aug 12 02:57:00 CST 2018 0 5202
【原創】大數據基礎之Logstash(4)可用

logstash可用體現為不丟數據(前提為服務器短時間內不可用后可恢復比如重啟服務器或重啟進程),具體有兩個方面: 進程重啟(服務器重啟) 事件消息處理失敗 在logstash中對應的解決方案為: Persistent Queues Dead Letter ...

Tue Apr 09 01:30:00 CST 2019 0 1005
大數據入門:Hadoop安裝環境配置及檢測

@ 目錄 1.導包Hadoop包 2.配置環境變量 3.把winutil包拷貝到Hadoop bin目錄下 4.把Hadoop.dll放到system32下 5.檢測Hadoop是否正常安裝 5.1在maven項目中檢測,將配置文件放入 ...

Sun Nov 25 23:23:00 CST 2018 0 1242
大數據技術之HA 可用

HDFS HA可用 1.1 HA概述 1)所謂HA(High Available),即可用(7*24小時不中斷服務)。 2)實現可用最關鍵的策略是消除單點故障。HA嚴格來說應該分成各個組件的HA機制:HDFS的HA和YARN的HA。 3)Hadoop2.0之前,在HDFS集群中 ...

Tue Apr 02 17:11:00 CST 2019 0 866
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM