ambari安裝hadoop


前言

hadoop除了社區版之外,還有兩個主流的分支,一個是cdh版本,一個是hdp版本,其中ambari是hdp版本的部署工具

1.ambari安裝准備

https://docs.hortonworks.com/ ambari版塊,找到installation

ip role os java
10.110.92.148 ambari-master centos-7.2 1.8
10.110.92.161 ambari-agent centos-7.2 1.8
10.110.92.162 ambari-agent centos-7.2 1.8
  • master到agent端的ssh免密通信

  • master與agent時間同步

  • iptables off 與selinux off

  • 各node中/etc/hosts中ip對hostname的對應

    [root@10-110-92-148 ~]# cat /etc/hosts
    127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
    ::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
    10.110.92.162 10-110-92-162
    10.110.92.161 10-110-92-161
    10.110.92.148 10-110-92-148
    

數據庫准備工作

  • 數據庫,因為os為centos7.2,所以直接通過yum源安裝了mariadb

    [root@10-110-92-1648 ~]# yum -y install mariadb-server.x86_64 mariadb-devel.x86_64 mariadb-libs.x86_64
    
  • 數據庫授權

  • 可以后續ambari-server setup的時候再依實際情況設置,如果ambari-server setup未作更改,可以進行以下的授權

MariaDB [(none)]> grant all on ambari.* to ambari@'%' identified by "bigdata";
  • mysql驅動安裝
[root@10-110-92-148 resources] #  yum install mysql-connector-odbc.x86_64 mysql-connector-java.noarch 
  • 手動鏈接mysql驅動java庫至ambari安裝目錄(重要)
[root@10-110-92-148 resources]# ln -svnf /usr/share/java/mysql-connector-java.jar /var/lib/ambari-server/resources/mysql-connector-java.jar

如果未出現鏈接,后續web安裝時在agent端可能出現無法安裝hive等組件的問題,具體表示為以下類似情況

Failed to download file from http://10-110-92-148:8080/resources/mysql-connector-java.jar due to HTTP error: HTTP Error 404: Not Found

2.本地倉庫准備

1.安裝文件的下載

ambari中安裝組件很多,所以最好先自行下載,完成本地倉庫的安裝

找到Apache Ambari installationObtaining Public Repositories下面的Ambari Repositories,下載其中的Tarball鏈接文件,三個均要下載,然后解壓

[root@10-110-92-148 ambarirepo]# cd /data/ambarirepo/
[root@10-110-92-148 ambarirepo]# ll
total 8722480
drwxr-xr-x 3 zabbix users         28 Jul 13 07:53 HDP
-rw-r--r-- 1 root   root  8841048054 Jul 13 08:15 HDP-3.0.0.0-centos7-rpm.tar.gz
drwxr-xr-x 3 zabbix users         28 Jul 13 16:15 HDP-GPL
-rw-r--r-- 1 root   root      162239 Jul 13 16:15 HDP-GPL-3.0.0.0-centos7-gpl.tar.gz
drwxr-xr-x 3 zabbix users         28 Aug 13 18:28 HDP-UTILS
-rw-r--r-- 1 root   root    90606616 Aug 13 18:28 HDP-UTILS-1.1.0.22-centos7.tar.gz

2.倉庫文件的http訪問

安裝nginx,然后更改nginx的配置文件,使得其可以通過web訪問到文件

    server {
        listen       80 default_server;
        server_name  _;
        root         /data/ambarirepo;  ##更改目錄
        
        location / {
        autoindex on;	##加入此項
        }
        ###下略
        }

/data/ambarirepo/HDP/centos7/3.0.0.0-1634目錄之下的index.html重命名為index.html.bak,在web訪問http://10.110.92.148/HDP/centos7/3.0.0.0-1634/可以看到文件與目錄列表,即表示ok

3.安裝ambari

1.下載ambari repo文件

Apache Ambari installationInstalling Ambari下面Download the Ambari Reposioty

比如本文中的為2.7.1,repo鏈接為

[root@10-110-92-148 ~]# wget http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.7.1.0/ambari.repo -O /etc/yum.repos.d/ambari.repo

2.安裝ambari並啟動

[root@10-110-92-148 ~]# yum install ambari-server
[root@10-110-92-148 ~]# ambari set-up

3.ambari-setup設定

設定mysql使用,java環境等,自行選擇java環境時,需要指定java環境路徑

設定完成之后,初始化ambari數據庫

MariaDB [(none)]> create database ambari;
MariaDB [(none)]> use ambari;
MariaDB [(none)]> source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql

4.啟動ambari

[root@10-110-92-148 ~]# ambari-server setup

4.ambari web安裝

  • 訪問master的web端 http://10.110.92.148:8080 默認用戶密碼為admin/admin

  • launch cluster,取一cluster名稱

  • get started中,添加agent三個主機的hostname,並非ip,然后將master的私鑰文件導入,即id_rsa,並非id_rsa.pub文件

  • 選擇使用本地倉庫,將剛才nginx可訪問的文件鏈接依次貼入,本文例

    hdp http://10.110.92.148/HDP/centos7/3.0.0.0-1634/
    gpl http://10.110.92.148/HDP-GPL/centos7/3.0.0.0-1634/
    utils http://10.110.92.148/HDP-UTILS/centos7/1.1.0.22/
  • 選擇下一步,選擇自行安裝的組件

  • 密碼統一設定即可,需要大於8位,同時為字母數字組合,部分密碼需要那樣的格式

  • 將namenode的jvm調整至4G大小

  • 確保在custionzie services無提醒


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM