前言
hadoop除了社區版之外,還有兩個主流的分支,一個是cdh版本,一個是hdp版本,其中ambari是hdp版本的部署工具
1.ambari安裝准備
https://docs.hortonworks.com/ ambari版塊,找到installation
ip | role | os | java |
---|---|---|---|
10.110.92.148 | ambari-master | centos-7.2 | 1.8 |
10.110.92.161 | ambari-agent | centos-7.2 | 1.8 |
10.110.92.162 | ambari-agent | centos-7.2 | 1.8 |
-
master到agent端的ssh免密通信
-
master與agent時間同步
-
iptables off 與selinux off
-
各node中
/etc/hosts
中ip對hostname的對應[root@10-110-92-148 ~]# cat /etc/hosts 127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 10.110.92.162 10-110-92-162 10.110.92.161 10-110-92-161 10.110.92.148 10-110-92-148
數據庫准備工作
-
數據庫,因為os為centos7.2,所以直接通過yum源安裝了mariadb
[root@10-110-92-1648 ~]# yum -y install mariadb-server.x86_64 mariadb-devel.x86_64 mariadb-libs.x86_64
-
數據庫授權
-
可以后續
ambari-server setup
的時候再依實際情況設置,如果ambari-server setup
未作更改,可以進行以下的授權
MariaDB [(none)]> grant all on ambari.* to ambari@'%' identified by "bigdata";
- mysql驅動安裝
[root@10-110-92-148 resources] # yum install mysql-connector-odbc.x86_64 mysql-connector-java.noarch
- 手動鏈接mysql驅動java庫至ambari安裝目錄(重要)
[root@10-110-92-148 resources]# ln -svnf /usr/share/java/mysql-connector-java.jar /var/lib/ambari-server/resources/mysql-connector-java.jar
如果未出現鏈接,后續web安裝時在agent端可能出現無法安裝hive等組件的問題,具體表示為以下類似情況
Failed to download file from http://10-110-92-148:8080/resources/mysql-connector-java.jar due to HTTP error: HTTP Error 404: Not Found
2.本地倉庫准備
1.安裝文件的下載
ambari中安裝組件很多,所以最好先自行下載,完成本地倉庫的安裝
找到Apache Ambari installation
中Obtaining Public Repositories
下面的Ambari Repositories
,下載其中的Tarball
鏈接文件,三個均要下載,然后解壓
[root@10-110-92-148 ambarirepo]# cd /data/ambarirepo/
[root@10-110-92-148 ambarirepo]# ll
total 8722480
drwxr-xr-x 3 zabbix users 28 Jul 13 07:53 HDP
-rw-r--r-- 1 root root 8841048054 Jul 13 08:15 HDP-3.0.0.0-centos7-rpm.tar.gz
drwxr-xr-x 3 zabbix users 28 Jul 13 16:15 HDP-GPL
-rw-r--r-- 1 root root 162239 Jul 13 16:15 HDP-GPL-3.0.0.0-centos7-gpl.tar.gz
drwxr-xr-x 3 zabbix users 28 Aug 13 18:28 HDP-UTILS
-rw-r--r-- 1 root root 90606616 Aug 13 18:28 HDP-UTILS-1.1.0.22-centos7.tar.gz
2.倉庫文件的http訪問
安裝nginx,然后更改nginx的配置文件,使得其可以通過web訪問到文件
server {
listen 80 default_server;
server_name _;
root /data/ambarirepo; ##更改目錄
location / {
autoindex on; ##加入此項
}
###下略
}
將/data/ambarirepo/HDP/centos7/3.0.0.0-1634
目錄之下的index.html
重命名為index.html.bak
,在web訪問http://10.110.92.148/HDP/centos7/3.0.0.0-1634/
可以看到文件與目錄列表,即表示ok
3.安裝ambari
1.下載ambari repo文件
在Apache Ambari installation
中Installing Ambari
下面Download the Ambari Reposioty
中
比如本文中的為2.7.1,repo鏈接為
[root@10-110-92-148 ~]# wget http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.7.1.0/ambari.repo -O /etc/yum.repos.d/ambari.repo
2.安裝ambari並啟動
[root@10-110-92-148 ~]# yum install ambari-server
[root@10-110-92-148 ~]# ambari set-up
3.ambari-setup設定
設定mysql使用,java環境等,自行選擇java環境時,需要指定java環境路徑
設定完成之后,初始化ambari數據庫
MariaDB [(none)]> create database ambari;
MariaDB [(none)]> use ambari;
MariaDB [(none)]> source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
4.啟動ambari
[root@10-110-92-148 ~]# ambari-server setup
4.ambari web安裝
-
訪問master的web端
http://10.110.92.148:8080
默認用戶密碼為admin/admin -
launch cluster,取一cluster名稱
-
get started中,添加agent三個主機的hostname,並非ip,然后將master的私鑰文件導入,即
id_rsa
,並非id_rsa.pub
文件 -
選擇使用本地倉庫,將剛才nginx可訪問的文件鏈接依次貼入,本文例
hdp http://10.110.92.148/HDP/centos7/3.0.0.0-1634/ gpl http://10.110.92.148/HDP-GPL/centos7/3.0.0.0-1634/ utils http://10.110.92.148/HDP-UTILS/centos7/1.1.0.22/ -
選擇下一步,選擇自行安裝的組件
-
密碼統一設定即可,需要大於8位,同時為字母數字組合,部分密碼需要那樣的格式
-
將namenode的jvm調整至4G大小
-
確保在custionzie services無提醒