Hadoop完全雲計算平台搭建


一.以之前搭建的為雲計算平台為主節點

角色分配

Master:NameNode/DataNode ResourceManager/NodeManager

Slave1:DataNode NodeManager

Slave2:DataNode NodeManager

1. 修改hostname

2. 修改hosts,添加每個節點的ip地址以及對應的hostname

3. ping測試

二. ssh免密碼登錄

[root@localhost .ssh]# ssh-keygen -t rsa
##生成公鑰
[root@localhost .ssh]# ssh-copy-id -i ~/.ssh/id_rsa.pub master 
#分發公鑰給master  slave1  slave2
[root@localhost .ssh]# ssh-copy-id -i ~/.ssh/id_rsa.pub slave1
[root@localhost .ssh]# ssh-copy-id -i ~/.ssh/id_rsa.pub slave2

 

分發

 免密登錄測試

ssh slave1

 

 如果其他兩台主機需要免密登錄需要重復以上步驟,生成公鑰然后分發給其他兩台主機,實現免密碼登錄

三. 解壓jdkhadoop(以下操作均是在master節點操作,詳細參考偽雲計算平台搭建)

 

[root@localhost opt]# tar xvf hadoop-2.7.2.tar.gz
[root@localhost opt]# tar xvf jdk-8u172-linux-x64.tar.gz
[root@localhost opt]# mkdir Hadoop
[root@localhost opt]# mkdir Java
[root@localhost opt]# mv jdk1.8.0_172/ Java/
[root@localhost opt]# mv hadoop-2.7.2 Hadoop/

 配置環境變量

vi  ~/.bashrc

 添加

export JAVA_HOME=/opt/Java/jdk1.8.0_172
export PATH=$PATH:$JAVA_HOME/bin
export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2
export PATH=$PATH:$HADOOP_HOME/bin

 

[root@localhost opt]# source  ~/.bashrc
#使得配置生效

 2.修改配置

[root@localhost hadoop]# cd /opt/Hadoop/hadoop-2.7.2/etc/hadoop

 添加變量

[root@localhost hadoop]# vi hadoop-env.sh
添加這一條
export JAVA_HOME=/opt/Java/jdk1.8.0_172

修改配置

 [root@master hadoop]# vi slaves

 添加內容為

master
slave1
slave2

 3.分發安裝包到slave1和slave2節點

[root@master ~]# scp ~/.bashrc root@slave1:~/
[root@master ~]# scp ~/.bashrc root@slave2:~/
[root@master ~]# scp -r /opt root@slave1:/
[root@master ~]# scp -r /opt root@slave2:/

分發需要一段時間,耐心等待就好

 使得配置生效(slave1和slave2節點)

[root@localhost hadoop]# source  ~/.bashrc
[root@localhost hadoop]# echo  $JAVA_HOME
/opt/Java/jdk1.8.0_172

 格式化

對slave1和slave2節點格式化

[root@localhost hadoop]# cd  /opt/Hadoop/hadoop-2.7.2/bin
[root@localhost bin]# ./hadoop  namenode  -format

 

slave1節點

啟動服務,在master中啟動

[root@master hadoop]# cd  /opt/Hadoop/hadoop-2.7.2/sbin
[root@master sbin]#./start-all.sh

 

 至此,完全雲計算平台搭建完成

 瀏覽器訪問

http://192.168.2.100:50070/

就可以看到Hadoop

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM