hadoop 中ALL Applications 中Tracking 下History查找不到MapReduce Job 日志


運行一個Map Reduce job 想查看日志:

點擊History ,找不到網頁

解決辦法如下:

1.其中有一個進程是需要啟動的:

Hadoop自帶了一個歷史服務器,可以通過歷史服務器查看已經運行完的Mapreduce作業記錄,比如用了多少個Map、用了多少個Reduce、作業提交時間、作業啟動時間、作業完成時間等信息。默認情況下,Hadoop歷史服務器是沒有啟動的,我們可以通過下面的命令來啟動Hadoop歷史服務器

mr-jobhistory-daemon.sh start historyserver

主要是向用戶提供歷史的mapred Job 查詢

2.需要修改配置文件 mapred-site.xml    yarn-site.xml

往mapred-site.xml文件添加:

 <property>           
       <name>mapreduce.jobhistory.done-dir</name>    
       <value>/mr-history/done</value>        
       <description>MR JobHistory Server管理的日志的存放位置,默認:/mr-history/done</description>    
 </property>

<property>         
       <name>mapreduce.jobhistory.intermediate-done-dir</name>     
       <value>/mr-history/mapred/tmp</value>             
       <description>MapReduce作業產生的日志存放位置,默認值:/mr-history/tmp</description>  
</property>

往yarn-site.xml文件中添加:

   <property>
     <name>yarn.log-aggregation-enable</name>
     <value>true</value>
   </property>

3.配置window 本地的hosts

C:\Windows\System32\drivers\etc\hosts

127.0.0.1 localhost
192.168.1.30 master
192.168.1.40 saver1
192.168.1.50 saver2

 

4.重啟集群,使生效

然后再點擊logs 可以看到:

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM