使用docker搭建kafka環境

Requirements

最近學習了下kafka，為方便搭建環境，使用docker進行部署。

需要首先安裝docker的環境。要求操作系統是linux的64位系統。

docker的安裝(適於rpm/deb安裝):

curl -fsSL https://get.docker.com/ | sh

docker-compose的安裝:

curl -L https://github.com/docker/compose/releases/download/1.7.0/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose

Kafka Image

Dockerfile

Dockerfile是用於描述鏡像的制作過程。根據kafka的教程，編寫對應的Dockerfile。

基礎鏡像使用了centos6的版本，當然根據需要也可以使用其他的版本。

FROM index.alauda.cn/tutum/centos:centos6
RUN yum install -y wget
RUN wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie"  http://download.oracle.com/otn-pub/java/jdk/8u91-b14/jdk-8u91-linux-x64.rpm
RUN rpm -ivh jdk-8u91-linux-x64.rpm
RUN mkdir -p /kafka && cd /kafka && wget http://mirrors.cnnic.cn/apache/kafka/0.9.0.0/kafka_2.11-0.9.0.0.tgz && tar -xzf kafka_2.11-0.9.0.0.tgz && cd kafka_2.11-0.9.0.0
WORKDIR /kafka/kafka_2.11-0.9.0.0

有了這樣的一個Dockerfile，可以在本地，也可以使用公有雲進行鏡像制作。在本地制作的話，可以使用該命令:

docker build -t index.alauda.cn/xuxinkun/kafka .

我使用了靈雀雲的鏡像服務進行build，可以在這里查看。

Docker-Compose

有了鏡像之后，現在需要對服務進行啟動。這里使用了docker的編排服務docker-compose，進行編排。

kafka主要包括兩個服務，zookeeper和kafka。所以需要分別啟動兩個服務。這里將兩個服務直接使用宿主機的網絡。編寫docker-compose.yaml如下:

zk:
  image: index.alauda.cn/xuxinkun/kafka
  net: host
  stdin_open: true
  tty: true
  command: bin/zookeeper-server-start.sh config/zookeeper.properties
kafka:
  image: index.alauda.cn/xuxinkun/kafka
  net: host
  stdin_open: true
  tty: true
  command: bin/kafka-server-start.sh config/server.properties

啟動服務

現在可以一條命令啟動所有的服務:

[root@node1 Dockerfile]# docker-compose up -d
Creating dockerfile_kafka_1
Creating dockerfile_zk_1

查看服務狀態

對服務狀態進行查看。

[root@node1 Dockerfile]# docker-compose ps
        Name                       Command               State   Ports 
----------------------------------------------------------------------
dockerfile_kafka_1      bin/kafka-server-start.sh  ...   Up            
dockerfile_zk_1         bin/zookeeper-server-start ...   Up  

當然也可以使用docker ps -a進行查看。

停止服務

[root@node1 Dockerfile]# docker-compose stop zk kafka
Stopping dockerfile_kafka_1 ... done
Stopping dockerfile_zk_1 ... done

刪除服務

[root@node1 Dockerfile]# docker-compose rm zk kafka