運行一個Map Reduce job 想查看日志:
點擊History ,找不到網頁
解決辦法如下:
1.其中有一個進程是需要啟動的:
Hadoop自帶了一個歷史服務器,可以通過歷史服務器查看已經運行完的Mapreduce作業記錄,比如用了多少個Map、用了多少個Reduce、作業提交時間、作業啟動時間、作業完成時間等信息。默認情況下,Hadoop歷史服務器是沒有啟動的,我們可以通過下面的命令來啟動Hadoop歷史服務器
mr-jobhistory-daemon.sh start historyserver
主要是向用戶提供歷史的mapred Job 查詢
2.需要修改配置文件 mapred-site.xml yarn-site.xml
往mapred-site.xml文件添加:
<property> <name>mapreduce.jobhistory.done-dir</name> <value>/mr-history/done</value> <description>MR JobHistory Server管理的日志的存放位置,默認:/mr-history/done</description> </property> <property> <name>mapreduce.jobhistory.intermediate-done-dir</name> <value>/mr-history/mapred/tmp</value> <description>MapReduce作業產生的日志存放位置,默認值:/mr-history/tmp</description> </property>
往yarn-site.xml文件中添加:
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
3.配置window 本地的hosts
C:\Windows\System32\drivers\etc\hosts
127.0.0.1 localhost 192.168.1.30 master 192.168.1.40 saver1 192.168.1.50 saver2
4.重啟集群,使生效
然后再點擊logs 可以看到: