Hadoop單機Hadoop測試環境搭建


Hadoop單機Hadoop測試環境搭建:
1. 安裝jdk,並配置環境變量,配置ssh免密碼登錄
2. 下載安裝包hadoop-2.7.3.tar.gz
3. 配置/etc/hosts   127.0.0.1 YARN001
4. 解壓縮hadoop-2.7.3.tar.gtz到/home/zhangzhenghai/cluster目錄下
5. 配置etc/hadoop/hadoop-env.sh 配置JAVA_HOME環境變量
export JAVA_HOME=/home/zhangzhenghai/soft/jdk1.8.0_121
6. 配置四個配置文件
etc/hadoop/mapred-site.xml
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>
etc/hadoop/core-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>fs.default.name</name>
        <value>hdfs://YARN001:8020</value>
    </property>
</configuration>
etc/hadoop/hdfs-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/home/zhangzhenghai/cluster/hadoop-2.7.3/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>/home/zhangzhenghai/cluster/hadoop-2.7.3/dfs/data</value>
    </property>
</configuration>
etc/hadoop/yarn-site.xml
<?xml version="1.0"?>
<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>
7. etc/hadoop/slaves配置文件
$more etc/hadoop/slaves
YARN001
8. 格式化NameNode(僅在搭建的時候格式化;若常規啟動集群需要跳過此步驟)
bin/hadoop namenode -format
9. 啟動方法三種,建議一個一個啟動
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start datanode
sbin/yarn-daemon.sh start resourcemanager
sbin/yarn-daemon.sh start nodemanager
10. 檢查各進程是否啟動jps
28819 DataNode
29348 NodeManager
29065 ResourceManager
28269 NameNode
29487 Jps
11. web檢查NameNode是否啟動
http://localhost:50070
http://test:8088
12. 驗證機群,跑一個測試用例<br>  bin/yarn jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar pi 2 10

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM