原文:配置高可用的Hadoop平台

.概述 在Hadoop .x之后的版本,提出了解決單點問題的方案 HA High Available 高可用 。這篇博客闡述如何搭建高可用的HDFS和YARN,執行步驟如下: 創建hadoop用戶 安裝JDK 配置hosts 安裝SSH 關閉防火牆 修改時區 ZK 安裝,啟動,驗證 HDFS HA的結構圖 角色分配 環境變量配置 核心文件配置 slave 啟動命令 hdfs和yarn的相關命令 ...

2015-02-25 15:34 17 19644 推薦指數:

查看詳情

可用Hadoop平台-實戰

1.概述   今天繼續《可用Hadoop平台》系列,今天開始進行小規模的實戰下,前面的准備工作完成后,基本用於統計數據的平台都擁有了,關於導出統計結果的文章留到后面贅述。今天要和大家分享的案例是一個基於電商網站的用戶行為分析,這里分析的指標包含以下指標: 統計每日PV 每日注冊 ...

Wed Apr 01 22:54:00 CST 2015 8 2559
Hadoop可用平台搭建

文章概覽: 1、機器規划和預配置 2、軟件安裝 3、集群文件配置 4、啟動集群 5、HA驗證 6、注意事項 7、小結 機器規划和預配置 主機/進程 NN DN RM NM ...

Wed Aug 05 20:36:00 CST 2015 0 2682
可用Hadoop平台-啟航

1.概述   在上篇博客中,我們搭建了《配置可用Hadoop平台》,接下來我們就可以駕着Hadoop這艘巨輪在大數據的海洋中遨游了。工欲善其事,必先利其器。是的,沒錯;我們開發需要有開發工具(IDE);本篇文章,我打算講解如何搭建和使用開發環境,以及編寫和講解WordCount這個例 ...

Fri Mar 13 22:59:00 CST 2015 3 1825
可用Hadoop平台-Hue In Hadoop

1.概述   前面一篇博客《可用Hadoop平台-Ganglia安裝部署》,為大家介紹了Ganglia在Hadoop中的集成,今天為大家介紹另一款工具——Hue,該工具功能比較豐富,下面是今天為大家分享的內容目錄: Hue簡述 Hue In Hadoop 截圖預覽 ...

Mon May 25 17:51:00 CST 2015 7 44633
可用Hadoop平台-HBase集群搭建

1.概述   今天補充一篇HBase集群的搭建,這個是可用系列遺漏的一篇博客,今天抽時間補上,今天給大家介紹的主要內容目錄如下所示: 基礎軟件的准備 HBase介紹 HBase集群搭建 單點問題驗證 截圖預覽   那么,接下來我們開始今天的HBase集群搭建學習 ...

Tue May 19 18:01:00 CST 2015 6 8515
可用Hadoop平台-集成Hive HAProxy

1.概述   這篇博客是接着《可用Hadoop平台》系列講,本篇博客是為后面用 Hive 來做數據統計做准備的,介紹如何在 Hadoop HA 平台下集成可用的 Hive 工具,下面我打算分以下流程來贅述: 環境准備 集成並配置 Hive 工具 使用 Java API 開發 ...

Thu Mar 26 22:28:00 CST 2015 3 4445
可用Hadoop平台-Ganglia安裝部署

1.概述   最近,有朋友私密我,Hadoop有什么好的監控工具,其實,Hadoop的監控工具還是蠻多的。今天給大家分享一個老牌監控工具Ganglia,這個在企業用的也算是比較多的,Hadoop對它的兼容也很好,不過就是監控界面就不是很美觀。下次給大家介紹另一款工具——Hue,這個界面官方稱為 ...

Thu May 21 23:43:00 CST 2015 1 6104
可用Hadoop平台-運行MapReduce程序

1.概述   最近有同學反應,如何在配置了HA的Hadoop平台運行MapReduce程序呢?對於剛步入Hadoop行業的同學,這個疑問卻是會存在,其實仔細想想,如果你之前的語言功底不錯的,應該會想到自動重連,自動重連也可以幫我我們解決運行MapReduce程序的問題。然后,今天我贅述的是利用 ...

Tue Mar 24 22:25:00 CST 2015 7 2802
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM