碼上快樂

相關內容    簡體    繁體

CDH5 Hadoop集群完全離線安裝步驟總結

本文轉載自   查看原文   2018-10-27 21:25   764 

https://www.zybuluo.com/sasaki/note/242142

版本控制


 
  1. @Title CDH5 Hadoop集群完全離線安裝步驟總結
  2. @Version v1.0
  3. @Timestamp 2015-12-14 14:25
  4. @Author Nicholas
  5. @Mail redskirt@outlook.com

1. 硬件准備

一個4節點的集群，Host對應關系如下：


 
  1. 192.168.53.230 master
  2. 192.168.53.231 slave01
  3. 192.168.53.232 slave02
  4. 192.168.53.233 slave03

 

服務器配置建議單節點CPU>雙核，內存>8G。

2. 軟件准備

注意： 由於官方版本眾多，一定要注意根據系統選擇對應版本，本文使用的CentOS6.5系列系統要使用cloudera-manager-el6-.tar.gz安裝包及CDH-5.3.8-1.cdh5.3.8.p0.5-.parcel離線資源。若版本選擇有誤安裝過程中也會出現錯誤。

與CDH4的不同，原來安裝CDH4的時候還需要下載IMPALA、Cloudera Search(SOLR)，CDH5中將他們包含在一起了，所以只需要下載一個CDH5的包就可以了。

准備好以上環境就可以正式進行部署了。

一、准備環境

以下操作均使用root用戶。

  1. 網絡配置（所有節點）

    分別修改各節點/etc/sysconfic/network文件，設置主機名為master，slave[01~03]。

    
 
    1. [root@master ~]# cat /etc/sysconfig/network
    2. NETWORKING=yes
    3. NETWORKING_IPV6=no
    4. HOSTNAME=master

    重啟網絡服務生效

    
 
    1. [root@master ~]# service network restart
    2. Shutting down loopback interface: [ OK ]
    3. Bringing up loopback interface: [ OK ]
    4. Bringing up interface Auto_eth1: Active connection state: activated
    5. Active connection path: /org/freedesktop/NetworkManager/ActiveConnection/2
    6. [ OK ]

    修改/etc/hosts文件，配置主機與IP對應關系（所有節點），讓所有節點都保持如下對應關系：

    
 
    1. [root@master ~]# cat /etc/hosts
    2. 127.0.0.1 localhost.localdomain localhost
    3. ::1 localhost6.localdomain6 localhost6
    4.  
    5. 192.168.53.230 master
    6. 192.168.53.231 slave01
    7. 192.168.53.232 slave02
    8. 192.168.53.233 slave03

  2. 打通master至slave[01~03]節點的SSH免密登陸 
    在主節點上執行 ssh-keygen -t rsa三次回車，生成無密碼的密鑰對，root用戶下默認在~/.ssh/目錄中，如沒有.ssh目錄則使用mkdir ~/.ssh新建一個即可。

    
 
    1. [root@master ~]# ssh-keygen -t rsa
    2. Generating public/private rsa key pair.
    3. Enter file in which to save the key (/root/.ssh/id_rsa):
    4. Enter passphrase (empty for no passphrase):
    5. Enter same passphrase again:
    6. Your identification has been saved in /root/.ssh/id_rsa.
    7. Your public key has been saved in /root/.ssh/id_rsa.pub.
    8. The key fingerprint is:
    9. f4:9a:be:43:e7:0b:e4:99:aa:61:e6:c6:61:1e:fb:e4 root@master
    10. The key's randomart image is:
    11. +--[ RSA 2048]----+
    12. | |
    13. | |
    14. | . |
    15. | . . |
    16. | S . |
    17. | + o.=. |
    18. | +++..Bo |
    19. | +=+ o... |
    20. | .ooE oo.. |
    21. +-----------------+

    將公鑰添加到認證文件中：

    
 
    1. [root@master ~]# cat ~/.ssh/id_rsa.pub >> authorized_keys
    2. [root@master ~]# ls ~/.ssh #authorized_keys即需要的認證文件
    3. authorized_keys id_rsa id_rsa.pub known_hosts

    設置authorized_keys的訪問權限： chmod 600 ~/.ssh/authorized_keys。

    scp文件到所有slave[01~03]節點：

    
 
    1. [root@master ~]# scp ~/.ssh/authorized_keys root@slave01:~/.ssh/

    測試： 在主節點上ssh slave[01~03]，若不需要密碼就能直接登陸進去了表示配置成功。

  3. 在所有節點安裝jdk1.7（略）

  4. 安裝Mysql（master節點）（略） 
    JDK與Mysql安裝可參考基礎環境配置匯總篇

    進入mysql並創建以下數據庫：

    
 
    1. [root@master ~]# mysql -h localhost -u root -p
    2. mysql> show databases;
    3. +---------------------------+
    4. | Database |
    5. +---------------------------+
    6. | information_schema |
    7. | cm |
    8. | cm_ |
    9. | hive |
    10. | mysql |
    11. | navigator_audit_server |
    12. | navigator_metadata_server |
    13. | reports_manager |
    14. | test |
    15. +---------------------------+
    16. 9 rows in set (0.19 sec)
    17.  
    18. #hive
    19.  
    20. create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

    此處數據庫暫未創建也沒關系，可在部署上Cloudera Manager已經配置好需要的服務之后再創建所需數據庫即可。

  5. 關閉防火牆和SELinux（所有節點）

    注意：需要在所有的節點上執行，因為涉及到的端口太多了，臨時關閉防火牆是為了安裝起來更方便，安裝完畢后可以根據需要設置防火牆策略，保證集群安全。

    關閉防火牆：

    
 
    1. service iptables stop #臨時關閉
    2. chkconfig iptables off #重啟后生效

    關閉SELINUX：

    
 
    1. setenforce 0 #臨時生效
    2. 或
    3. 修改/etc/selinux/config 文件的 SELINUX=disabled #重啟生效

  6. 配置NTP服務（所有節點）（略） 
    ntp服務的配置可參考基礎環境配置匯總篇

二、安裝Cloudera Manager Server和Agent

  1. 在master節點解壓安裝包至/opt默認目錄

    
 
    1. [root@master ~]# cd /usr/application/tmp/
    2. [root@master tmp]# tar -zxvf cloudera-manager-el6-cm5.3.8_x86_64.tar.gz -C /opt

  2. 為Cloudera Manager 5建立數據庫 
    將准備好的mysql-connector-java-5.3.5-bin.jar文件放到/opt/cm-5.3.5/share/cmf/lib/中。

    
 
    1. [root@master tmp]# cp mysql-connector-java-5.1.35.jar /opt/cm-5.3.8/share/cmf/lib/

    在master節點初始化CM5的數據庫

    
 
    1. [root@master tmp]# /opt/cm-5.3.5/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -proot --scm-host localhost scm scm scm

  3. 配置Agent 
    修改/opt/cm-5.3.8/etc/cloudera-scm-agent/config.ini中的server_host為主節點的主機名master。

    
 
    1. [root@master ~]# vim /opt/cm-5.3.8/etc/cloudera-scm-agent/config.ini
    2.  
    3. [General]
    4.  
    5. # Hostname of the CM server.
    6.  
    7. server_host=master

    同步Agent到slave[01~03]節點

    
 
    1. [root@master ~]# scp /opt/cm-5.3.8/ root@slave01:/opt/

  4. 在所有節點創建cloudera-scm用戶

    
 
    1. useradd --system --home=/opt/cm-5.3.8/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

  5. 准備Parcels，用以安裝CDH5 
    將CHD5相關的Parcel包放到主節點的/opt/cloudera/parcel-repo/目錄中（parcel-repo需要手動創建）。

    相關的文件如下：

    • CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel.sha1
    • CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel
    • manifest.json

    最后將CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel.sha1，重命名為CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel.sha1，這點必須注意，否則，系統會重新下載CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel.sha文件。

  6. 執行啟動腳本 
    在master節點啟動服務端：

    
 
    1. [root@master ~]# /opt/cm-5.3.8/etc/init.d/cloudera-scm-server start

    在所有節點啟動Agent：

    
 
    1. [root@slave01 ~]#/opt/cm-5.3.8/etc/init.d/cloudera-scm-agent start

    以上腳本是啟動命令，相關停止或重啟命令僅需將start變成stop或restart即可。

    二、配置CDH集群

    Cloudera Manager Server和Agent都啟動以后，就可以進行CDH5的安裝配置了。

    在瀏覽器打開http://master:7180進入CDH管理界面，由於CM Server的啟動需要花點時間，這里可能要等待一會才能訪問，默認的用戶名和密碼均為admin。

    1.png-258.5kB

    2.png-436.5kB

    選擇安裝的集群，這里注意只有已啟動cloudera-scm-agent的主機才能被CM管理。 
    3.png-425.4kB

    選擇我們安裝需要的Parcel包，這里可以看到我們已准備好的CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel包，若沒有，就檢查相關文件是否正確放入/parcel-repos中，且CDH-5.3.8-1.cdh5.3.8.p0.5-el6.parcel.sha1是否正確重命名。 
    4.png-451.7kB

    繼續，如果上一步檢查配置沒問題，這里的第一個進度條應該瞬間完成，CM不需要再向用品下載Parcel，然后等待CM將Parcel分發到各slave節點上並激活。 
    5.png-365.1kB

    CM會檢測集群很多環境項，

    6.png-725kB

    此處如果出現以下警告，是一個默認環境變量的問題，Cloudera建議將/proc/sys/vm/swappiness設置為0，當前設置為 60。在所有節點執行以下命令： 
    ZFjyYv.jpg-31.9kB

    
 
    1. [root@master ~] #echo 0 > /proc/sys/vm/swappiness # 將該環境變量臨時設置為0

    選擇需要在集群中部署的Hadoop服務，這里可以選擇推薦的內核，當然也可以選擇自定義服務。為了保險起見我先僅安裝需要的HDFS、YARN、MapReduce、Hive等組件，安裝太多不需要的服務在運行過程中會占用較多資源，且選擇服務過多到下一步初始化和啟動各節點角色的時候會花費大量時間。 
    這里不必擔心沒安裝的服務以后有需要怎么辦，在CM管理控制台中還可以隨時對各節點的服務進行添加和變更。 
    7.png-710.6kB

    分配各節點的角色，如無特殊需求這里保持默認即可。 
    8.png-571.2kB

    所安裝的角色有些需要用到數據庫，則在mysql中新建相應數據庫即可。進行下一步之前必須測試數據庫的連通性。

    
 
    1. [root@master ~]# mysql -h localhost -u root -p
    2.  
    3. # 新建hive數據庫
    4.  
    5. create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

    9.png-515.3kB

    設置服務所需的目錄結構，若無特殊需求這里也可以保持默認目錄結構。 
    10.png-823.7kB

    接下來就等待初始化和啟動服務，這里可能會遇到Hive報錯的問題，因為我們選擇了Mysql作為hive的元數據存儲，查看日志知道是Hive初始化Mysql的時候找不到jar文件，將mysql-connector-java-5.1.33-bin.jar拷貝到hive存放jar文件的目錄重試即可。

    
 
    1. [root@master ~]# cp /opt/cm-5.3.8/share/cmf/lib/mysql-connector-java-5.1.33-bin.jar/opt/cloudera/parcels/CDH-5.3.8-1.cdh5.3.8.p0.12/lib/hive/lib/

    11.png-556.9kB

    如果服務都啟動成功，這個集群已安裝上所需要的Hadoop服務，整個部署過程結束。 
    12.png-278.6kB

    在瀏覽器中輸入master地址訪問Cloudera Manager，端口7180。 
    發現有些報紅的服務，也可能會出現“無法發出查詢：對Service Monitor的請求超時”的錯誤提示，如果各個組件安裝沒有問題，一般是因為服務器較卡導致，CM監控集群會耗費較多資源，等待一段時間后會正常。 
    13.png-596.5kB

    訪問http://master:50070查看HDFS控制台。 
    14.png-456.7kB

    訪問http://master:8088查看YARN控制台。 
    15.png-523.9kB

     


免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。



猜您在找 離線安裝Cloudera Manager 5和CDH5(最新版5.9.3) 完全教程（六）CM的安裝 離線安裝Cloudera Manager 5和CDH5(最新版5.9.3) 完全教程（七）界面安裝 離線安裝Cloudera Manager 5和CDH5(最新版5.9.3) 完全教程（二）基礎環境安裝 離線安裝Cloudera Manager 5和CDH5(最新版5.1.3) 完全教程 離線安裝Cloudera Manager 5和CDH5(最新版5.9.3) 完全教程（一）環境說明 Cloudera Manager 5和CDH5離線安裝 Hadoop集群安裝-CDH5（3台服務器集群） Hadoop集群安裝-CDH5（5台服務器集群） 離線安裝Cloudera Manager 5和CDH5(最新版5.9.3) 完全教程（四）數據庫安裝（單節點） 離線安裝Cloudera Manager 5和CDH5(最新版5.9.3) 完全教程（五）數據庫安裝（雙節點）
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM