配置hadoop本地開發環境(第4篇)


摘要:

配置本地hadoop開發環境

配置在Eclipse環境中管理hdfs目錄

hadoop下載:

https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common  //清華鏡像

https://mirror.bit.edu.cn/apache/hadoop/common

https://downloads.apache.org/hadoop/common/

所有Hadoop版本

https://archive.apache.org/dist/hadoop/common/  

1.本地hadoop開發環境配置

保證本機配置好jdk、安裝好eclipse   //我的eclipse是用的綠色版

1)windows安裝hadoop

我的分布式環境hadoop版本號是2.7.5,因此下載hadoop2.7.5.zip

解壓后路徑:E:\java\hadoop

2)配置系統環境變量

配置系統變量HADOOP_HOME:E:\java\hadoop

配置系統變量Path: 在最后追加%HADOOP_HOME%\bin

3)配置本地運行MR程序

E:\java\hadoop \bin目錄下的winutils.exe和hadoop.dll拷貝到C:\Windows\System32目錄下。

說明:windows本地運行mr程序時(不提交到yarn,運行在jvm單線程執行),hadoop.dll防止報nativeio異常、winutils.exe沒有的話報空指針異常。

2.eclipse中安裝hadoop插件

1)下載插件

也可以下載hadoop-eclipse-plugin插件

https://github.com/winghc/hadoop2x-eclipse-plugin

放到eclipse-oxygen\plugins  或 eclipse-oxygen\dropins下

我下載的hadoop-eclipse-plugin-2.7.5.jar,放到E:\java\eclipse-oxygen\plugins中

2)安裝配置插件

重啟eclipse

進入Windows –Preferences,我們會看見多了一個Hadoop MapReduce,說明我們安裝好了eclipse的hadoop插件。

配置插件:點擊Hadoop Map/Reduce選項,進入配置頁面,點擊Browse,選擇Hadoop安裝路徑。  ##我的路徑是E:\java\hadoop

3.配置Map/Reduce Location

打開 Windows—> show view —> Other,選擇MapReduce Tools下的Map/Reduce Locations。

點擊下圖右上角位置的小象,進入配置頁面。

 

 

 

說明:

Location name自定義一個名字就行;

配置Map/Reduce Master

Host:master節點的hostname

Port:50070    

說明:50070是hdfs文件系統的端口,192.168.56.110:50070可以查看你文件系統

 

配置DFS Master

port為HDFS端口號,默認是9000

 

User name為安裝Hadoop節點用戶名稱  

##我的master節點 [root@master hadoop]#,因此我的user name是root

 

4.測試

在Xshell中,連接master,在hdfs中創建文件夾he

[root@master hadoop]# hadoop fs -mkdir /he

在eclipse中就可以適合地看見hdfs文件的情況。如下圖:

 

通過瀏覽器也可以查看hdfs的情況:

http://192.168.56.110:50070/explorer.html#/

 備注:一定要修改

C:\Windows\System32\drivers\etc\hosts文件

192.168.56.110 master       ##在這里耗費了好會兒

到此,eclipse配置本地hadoop環境ok。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM