eclipse安裝hadoop插件


為什么要用這個插件了?有什么好處了?

因為我們待分析的文件需要從客戶端通過rpc傳到NameNode,所以在linux中,是找不到這個文件的,相當於是做了個隔離,所以用個插件就很方便的上傳這些文件了,還可以查看目錄結構,文件內容。分析后結果也是很方便的查看的到。

操作步驟:

1、下載eclipse for java版本 (http://www.eclipse.org/downloads/

2、下載對應hadoop版本的的eclipse hadoop插件

3、解壓eclipse后將eclipse hadoop插件拷貝至plugins文件夾底下

4、重啟eclipse,打開eclipse,如果出現window菜單消失問題,請查看

5、設置hadoop的安裝路徑至eclipse,如圖:

6、打開菜單 window - perspective - open perspective - other - 點擊Map/Reduce

7、DFS Master配置core-site.xml 端口,Map/Reduce Master 配置mapred-site.xml端口

core-site.xml配置

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
  <!-- 指定HDFS老大(namenode)的通信地址 -->
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
  <!-- 指定hadoop運行時產生文件的存儲目錄 -->
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/home/abc/hadoop_tmp</value>
  </property>
  <property>
    <name>dfs.permissions</name>
    <value>true</value>
    <description>
      If "true", enable permission checking in HDFS.
      If "false", permission checking is turned off,
    </description>
  </property>
</configuration>

mapred-site.xml端口

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
  <!-- 指定mr運行在yarn上 -->
  <property>
      <name>mapreduce.framework.name</name>
      <value>yarn</value>
  </property>
  <property>
      <name>mapred.job.tracker</name>
      <value>localhost:9001</value>
  </property>
</configuration>

配置完成后,eclipse 左邊導航出現如圖:

如果tmp 提示 Error:Permission denied:user:root,access=READ_EXECUTE,inode="/tmp" ,表示所在用戶的tmp沒有文件權限,執行賦權限命令:

abc@ubuntu:/usr/local/hadoop$ hadoop fs -chown -R root:root /tmp

reconnect 后就可以全部看到hdfs的所有文件夾。

8、接下去就可以新建hadoop插件項目了

簡易的hadoop插件工程


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM