!!!該系列使用三台虛擬機搭建一個完整的spark集群,集群環境如下:
virtualBox5.2、Ubuntu14.04、securecrt7.3.6_x64英文版(連接虛擬機)
jdk1.7.0、hadoop2.6.5、zookeeper3.4.5、Scala2.12.6、kafka_2.9.2-0.8.1、park1.3.1-bin-hadoop2.6
本文在前面基礎上搭建zookeeper集群
一、spark1上
下面操作均在spark1上進行
1、下載解壓移動重命名
3、配置zoo.cfg
$ cd /usr/local/bigdata/zk/conf $ cp zoo_sample.cfg zoo.cfg $ vim zoo.cfg
修改dataDir,添加如下:
dataDir=/usr/local/bigdata/zk/data
server.0=spark1:2888:3888 server.1=spark2:2888:3888 server.2=spark3:2888:3888
4、添加標識
$ cd .. $ mkdir data $ cd data $ vim myid #在myid 文件寫入0
二、另外兩台機器
1、將spark1上的zookeeper復制到spark2和spark3上
root@spark1:/usr/local/bigdata# scp -r zk root@spark2://usr/local/bigdata/ root@spark1:/usr/local/bigdata# scp -r zk root@spark3://usr/local/bigdata/
2、同理修改 spark2 myid 為1, spark3 myid 為2(這里序號要與zoo.cfg文件中序號一致)
root@spark1:/usr/local/bigdata/zk/data# cat myid 0
root@spark2:/usr/local/bigdata/zk/data# cat myid 1
root@spark3:/usr/local/bigdata/zk/data# cat myid 2
3、配置環境變量(三台機器均需要)
export ZOOKEEPER_HOME=/usr/local/bigdata/zk export PATH=$PATH:$ZOOKEEPER_HOME/bin
三、啟動zookeeper集群
1、啟動集群
$ zkServer.sh start # 啟動集群
2、狀態如下,一個leader,兩個follower,即啟動成功,QuorumPeerMain代表zookeeper:
root@spark1:/usr/local/bigdata/zk/conf# zkServer.sh status JMX enabled by default Using config: /usr/local/bigdata/zk/bin/../conf/zoo.cfg Mode: follower
root@spark1:/usr/local/bigdata/zk/conf# jps
2400 SecondaryNameNode
4261 ResourceManager
4150 QuorumPeerMain
2249 DataNode
4458 NodeManager
4733 Jps
2126 NameNode
root@spark2:/usr/local/bigdata/zk/conf# zkServer.sh status JMX enabled by default Using config: /usr/local/bigdata/zk/bin/../conf/zoo.cfg Mode: leader
root@spark2:/usr/local/bigdata/zk/conf# jps
1809 DataNode
3654 NodeManager
3751 Jps
3511 QuorumPeerMain
root@spark3:/usr/local/bigdata/zk/conf# zkServer.sh status JMX enabled by default Using config: /usr/local/bigdata/zk/bin/../conf/zoo.cfg Mode: follower
root@spark3:/usr/local/bigdata/zk/conf# jps
3493 Jps
3253 QuorumPeerMain
3399 NodeManager
1836 DataNode
到這里zookeeper集群就成功安裝
進入命令行
$ zkCli.sh