摘要:
配置本地hadoop開發環境
配置在Eclipse環境中管理hdfs目錄
hadoop下載:
https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common //清華鏡像
https://mirror.bit.edu.cn/apache/hadoop/common
https://downloads.apache.org/hadoop/common/
所有Hadoop版本
https://archive.apache.org/dist/hadoop/common/
1.本地hadoop開發環境配置
保證本機配置好jdk、安裝好eclipse //我的eclipse是用的綠色版
1)windows安裝hadoop
我的分布式環境hadoop版本號是2.7.5,因此下載hadoop2.7.5.zip
解壓后路徑:E:\java\hadoop
2)配置系統環境變量
配置系統變量HADOOP_HOME:E:\java\hadoop
配置系統變量Path: 在最后追加%HADOOP_HOME%\bin
3)配置本地運行MR程序
E:\java\hadoop \bin目錄下的winutils.exe和hadoop.dll拷貝到C:\Windows\System32目錄下。
說明:windows本地運行mr程序時(不提交到yarn,運行在jvm單線程執行),hadoop.dll防止報nativeio異常、winutils.exe沒有的話報空指針異常。
2.eclipse中安裝hadoop插件
1)下載插件
也可以下載hadoop-eclipse-plugin插件
https://github.com/winghc/hadoop2x-eclipse-plugin
放到eclipse-oxygen\plugins 或 eclipse-oxygen\dropins下
我下載的hadoop-eclipse-plugin-2.7.5.jar,放到E:\java\eclipse-oxygen\plugins中
2)安裝配置插件
重啟eclipse
進入Windows –Preferences,我們會看見多了一個Hadoop MapReduce,說明我們安裝好了eclipse的hadoop插件。
配置插件:點擊Hadoop Map/Reduce選項,進入配置頁面,點擊Browse,選擇Hadoop安裝路徑。 ##我的路徑是E:\java\hadoop
3.配置Map/Reduce Location
打開 Windows—> show view —> Other,選擇MapReduce Tools下的Map/Reduce Locations。
點擊下圖右上角位置的小象,進入配置頁面。
說明:
Location name自定義一個名字就行;
配置Map/Reduce Master
Host:master節點的hostname
Port:50070
說明:50070是hdfs文件系統的端口,192.168.56.110:50070可以查看你文件系統
配置DFS Master
port為HDFS端口號,默認是9000
User name為安裝Hadoop節點用戶名稱
##我的master節點 [root@master hadoop]#,因此我的user name是root
4.測試
在Xshell中,連接master,在hdfs中創建文件夾he
[root@master hadoop]# hadoop fs -mkdir /he
在eclipse中就可以適合地看見hdfs文件的情況。如下圖:
通過瀏覽器也可以查看hdfs的情況:
http://192.168.56.110:50070/explorer.html#/
備注:一定要修改
C:\Windows\System32\drivers\etc\hosts文件
192.168.56.110 master ##在這里耗費了好會兒
到此,eclipse配置本地hadoop環境ok。