HADOOP 網絡搭建設置


設置虛擬機DNS

主機網絡配置

vi /etc/sysconfig/network-scripts/ifcfg-ens33

BOOTPROTO=static
IPADDR=192.168.56.110
NETMASK=255.255.255.0
GATEWAY=192.168.56.10
ONBOOT=yes

vi /etc/NetworkManager/NetworkManager.conf

添加一行內容dns=none
然后重啟網絡管理:
systemctl restart NetworkManager.service
修改域名解析配置文件 vi /etc/resolv.conf 
nameserver 192.168.20.3 #這里是修改DNS
最后重啟網絡service network restart
ping www.baidu.com可ping通即配置成功。

安裝Xshell連接軟件

關閉防火牆

systemctl status firewalld.service

查看防火牆狀態

systemctl stop firewalld.service

該命令輸入和執行后,終端不會有輸出。要檢查執行是否成功,可以再次使用狀態檢查命令。

systemctl disable firewalld.service

該命令使防火牆在下次啟動計算機的時候取消防火牆服務。

服務器系統設置

設置主機名

vi /etc/sysconfig/network

添加 NETWORKING = yes
HOSTNAME=MJ1

如果只修改 network 文件,下次重啟虛擬機時,會發現修改后的名字又回到原來的 localhost 去了。原來上面只修改了瞬態(Transient)主機名,並沒有修改靜態(Static)主機名。因此,仍然要進行修改,這一次輸入

“ vi /etc/hostname”

命令在編輯器中輸入如下代碼:MJ1,保存並退出,回到終端主窗口。
請重復上述操作方法,將其他虛擬機的主機名也從缺省的 localhost 修改為對應的 slave0 和 slave1。

服務器系統設置

一,集群機器時間同步

安裝ntpdate,命令:yum install ntpdate
網絡同步時間,命令:ntpdate cn.pool.ntp.org

二,配置IP主機名映射

設置主機名IP映射,命令:vi /etc/hosts
192.168.20.20 MJ1
192.168.20.21 MJ2
192.168.20.22 MJ3

三,復制虛擬機注意虛擬機ip地址

四,配置ssh免密登錄(本身機器訪問本身也要免密登錄,配置機器到自己、其他機器的免密登錄)

1、生成免密登錄秘鑰
命令:ssh-keygen - t rsa (四個回車)
2、秘鑰生成之后會產生id_rsa(私鑰),id_rsa.pub(公鑰),將公鑰拷貝到要免密登錄的機器上面去。
首先自己免密碼登陸:把自己的公鑰文件追加到本地認證文件中去
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

JDK環境准備

1、jdk的卸載和安裝

安裝yum install lrzsz

我們要安裝標准的jdk,如果不是標准的jdk,比如openJDK要卸載。

卸載命令:rpm –qa | grep java 查找安裝包
rpm –e --nodeps 包名

2、創建文件夾用來放置安裝的軟件如jdk,zookeeper

命令:mkdir /use/java

3、上傳jdk包:rz拖拽

4、安裝命令 tar zxvf 包名

5、修改設置全局變量3台機器都要添加:

vi /etc/profile 加入下面內容

export JAVA_HOME=/usr/lcal/java/jdk1.8.0_131
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.😒{JAVA_HOME}/lib:${JRE_HOME}/lib:$CLASSPATH
export JAVA_PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin
export PATH=$PATH:${JAVA_PATH}

6、重新加載profile文件:source /etc/profile

①使用javac命令,不會出現command not found錯誤

②、使用java -version,出現版本為java version "1.8.0_131"

③、echo $PATH,看看自己剛剛設置的的環境變量配置是否都正確

7,上傳完后,在master主機進入/opt/hadoop目錄,執行解壓縮命令“tar -zxvf hadoop-2.7.5.tar.gz”

配置env文件

修改”/opt/hadoop/hadoop/etc/hadoop/hadoop-env.sh”文件,找到“export JAVA_HOME”這行,配置jdk路徑。如圖

export JAVA_HOME=/usr/local/java/jdk1.8.0_162/

配置Hadoop 的核心組件文件是 core-site.xml
添加這個臨時文件保存目錄 首先你得創建這個目錄

<property>
	<name>fs.defaultFS</name>
	<value>hdfs://MJ1:9000</value>
</property>

<property>
	<name>hadoop.tmp.dir</name>
	<value>/opt/hadoop/hadoopdata</value>
</property>

配置Hadoop 的文件系統配置文件是 hdfs-site.xml
這里可以配置主機網站端口可以通過瀏覽器來訪問web監控頁面
上傳和下載文件端口是9000

<property>
	<name>dfs.replication</name>
	<value>1</value>
</property>

配置slaves(配置masters)

拷貝 到 MJ2 MJ3

scp -r hadoop-2.7.6/ root@MJ2:/usr/local/

配置hadoop環境變量

export HADOOP_HOME=/usr/local/hadoop-2.7.6
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

然后把hadoop環境變量傳給其余幾台

scp /etc/profile root@MJ3:/etc/

重新啟動環境變量

source /etc/profile

格式化你的主機不能在奴隸機上用

hdfs namenode -format

啟動hdfs

start -dfs.sh

到這里已經裝好HDFS了可以輸入網址查看 http://192.168.20.20:50070

下面裝yarn
重命名為mapred-site.xml.template

mv mapred-site.xml.template mapred-site.xml

修改

mapreduce.framework.name
yarn

修改

yarn-site.xml

添加

<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>MJ1:18040</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>MJ1:18030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>MJ1:18025</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>MJ1:18141</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>MJ:18088</value>
</property>

指定mr運行在yarn上,默認是local,本地模仿一個資源環境

把修改過的兩個文件分別覆蓋自己得奴隸機

啟動yarn
ResourceManage:http://192.168.247.11:8088 (Yarn管理界面)查看


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM