為什么要用這個插件了?有什么好處了?
因為我們待分析的文件需要從客戶端通過rpc傳到NameNode,所以在linux中,是找不到這個文件的,相當於是做了個隔離,所以用個插件就很方便的上傳這些文件了,還可以查看目錄結構,文件內容。分析后結果也是很方便的查看的到。
操作步驟:
1、下載eclipse for java版本 (http://www.eclipse.org/downloads/ )
2、下載對應hadoop版本的的eclipse hadoop插件
3、解壓eclipse后將eclipse hadoop插件拷貝至plugins文件夾底下
4、重啟eclipse,打開eclipse,如果出現window菜單消失問題,請查看
5、設置hadoop的安裝路徑至eclipse,如圖:
6、打開菜單 window - perspective - open perspective - other - 點擊Map/Reduce
7、DFS Master配置core-site.xml 端口,Map/Reduce Master 配置mapred-site.xml端口
core-site.xml配置
<?xml version="1.0" encoding="UTF-8"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <!-- Put site-specific property overrides in this file. --> <configuration> <!-- 指定HDFS老大(namenode)的通信地址 --> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> <!-- 指定hadoop運行時產生文件的存儲目錄 --> <property> <name>hadoop.tmp.dir</name> <value>/home/abc/hadoop_tmp</value> </property> <property> <name>dfs.permissions</name> <value>true</value> <description> If "true", enable permission checking in HDFS. If "false", permission checking is turned off, </description> </property> </configuration>
mapred-site.xml端口
<?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <!-- Put site-specific property overrides in this file. --> <configuration> <!-- 指定mr運行在yarn上 --> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> <property> <name>mapred.job.tracker</name> <value>localhost:9001</value> </property> </configuration>
配置完成后,eclipse 左邊導航出現如圖:
如果tmp 提示 Error:Permission denied:user:root,access=READ_EXECUTE,inode="/tmp" ,表示所在用戶的tmp沒有文件權限,執行賦權限命令:
abc@ubuntu:/usr/local/hadoop$ hadoop fs -chown -R root:root /tmp
reconnect 后就可以全部看到hdfs的所有文件夾。
8、接下去就可以新建hadoop插件項目了
簡易的hadoop插件工程