CM (Cloudera Manager) 的安裝,便於CDH的離線部署


一、准備工作

主機個數:n台

操作系統:CentOS 6.5

 

安裝所需軟件包:

CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz              

CDH parcel: CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel                            

                  CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha    #將下載的 CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha1重命名為CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha

                  manifest.json

JDK: jdk-7u67-linux-x64.rpm                   

MySql driver: mysql-connector-java-5.1.26-bin.jar

 

軟件下載地址:

CDH下載地址: http://archive.cloudera.com/cdh5/

               其中parcels地址:http://archive.cloudera.com/cdh5/parcels/5.4.0

CM下載地址:http://www.cloudera.com/downloads/manager/5-4-3.html

 

CM安裝官方文檔說明:

http://www.cloudera.com/documentation/enterprise/5-4-x/topics/installation_installation.html

二、系統環境配置

1、配置網絡環境

  • 將主機修改為靜態IP
  • 修改主機名及對應的IP

2、SHH設置免密碼登錄

               ssh-keygen -t rsa        #生成密鑰文件

               ssh-copy-id  主機名   #將生成的公鑰文件copy到指定主機

3、關閉防火牆

               service iptables stop         #關閉防火牆

               chkconfig iptables off       #關閉開機啟動

4、關閉SELinux

               setenforce 0  #臨時關閉

               vi /etc/selinux/config  修改SELINUX=disabled      #永久生效

5、配置時間同步

               yun install ntp    

               chkconfig ntp on

               ntpdate -u ntp.sjtu.edu.cn  #如果此時間服務器無效,可網上找尋其他時間服務器

6、安裝JDK

Jdk版本官網要求:1.7.0_67  1.7.0_75  1.8.0_60 

安裝准備好的rpm包:rpm –ivh jdk-7u67-linux-x64.rpm

配置環境變量

vi ~/.bash_profile

#JAVA

export JAVA_HOME=/usr/java/jdk1.7.0_67

export PATH=$PATH:$JAVA_HOME/bin

source ~/.bash_profile

7、安裝mysql

官網推薦 5.1、5.5、5.6版本

安裝:yum install mysql-server

修改權限:

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root' WITH GRANT OPTION;

flush privileges;

8、下載第三方依賴包

yum install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb –y

 

三、安裝CM 

1、安裝CM Agent和Server

    在agent和server主機上創建目錄

    mkdir /opt/cloudera-manager

    將安裝包解壓到指定目錄

    tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager

2、創建用戶 cloudera-scm

在所有節點上執行

useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

3、配置CM Agent

修改配置文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中的server_host和server_port。server_port默認為7182。

4、配置CM Server數據庫

拷貝mysql驅動

cp mysql-connector-java-5.1.26-bin.jar /usr/share/java/mysql-connector-java.jar

執行mysql命令

grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;

配置庫

cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/

./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm

其中node1為server主機名

5、創建parcel目錄

Server節點

  mkdir -p /opt/cloudera/parcel-repo

  chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo

Agent節點

  mkdir -p /opt/cloudera/parcels

  chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

6、上傳CDH本地源

上傳CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel

          CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha

          manifest.json

文件到/opt/cloudera/parcel-repo

7、啟動CM Server和Agent

 cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/

./cloudera-scm-server start

運行很慢,可通過log跟蹤啟動過程。

./cloudera-scm-agent start

在所有agent節點上,都要啟動

 

8、訪問CM

地址:http://node1:7180

用戶名、密碼:admin


接下來就可以安裝想要的CDH服務了。

 

CM安裝服務的配置文件存放位置: /etc/

CM安裝服務的運行日志位置:     /var/log/

CM安裝服務的包文件存放位置:  /opt/cloudera/parcels/CDH-5.4.0-1.cdh5.4.0.p0.27/


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM