之前寫過Kafka集群的部署,不過那是基於宿主機的,地址:Kafka基礎教程(二):Kafka安裝
和Zookeeper一樣,有時想簡單的連接Kafka用一下,那就需要開好幾台虛擬機,如果Zookeeper部署在其他地方,那還得多開幾台,用完還得關掉,否則太占內存,而且這樣操作甚是繁瑣。
於是我想了一下,可以使用docker來搭建一個簡單的Zookeeper和Kafak集群,上一篇說了Zookeeper集群的docker實現(使用docker或者docker-compose部署Zookeeper集群),現在說說使用Kafka集群的docker實現。
首先,我們需要安裝docker(參考:docker簡單安裝 )
接下來我們需要鏡像,不幸的是,Kafka沒有官方鏡像,那我們可以自己做一個,或者使用已經做好的鏡像,比如dockerhub上Star最多的wurstmeister/kafka:

由於Kafka需要Zookeeper,如果直接使用docker命令行來操作,那也是一個麻煩事,所以我采用了docker-compose來實現,雖然看GitHub上的教程(點擊跳轉),不過還是遇到了很多坑。
先將鏡像pull下來:
# Zookeeper sudo docker pull wurstmeister/zookeeper # Kafka sudo docker pull wurstmeister/kafka
然后創建一個空目錄,創建一個 docker-compose.yml ,根據GitHub上的教程,如果只啟動單節點,那么 docker-compose.yml 內容如下:
# yaml 配
version: '2'
services:
zookeeper:
image: wurstmeister/zookeeper
restart: always
ports:
- 2181:2181
kafka:
image: wurstmeister/kafka
restart: always
depends_on:
- zookeeper
ports:
- 9092:9092
environment:
KAFKA_ADVERTISED_HOST_NAME: kafka
KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181/kafka
KAFKA_LISTENERS: PLAINTEXT://:9092
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.209.128:9092
KAFKA_BROKER_ID: 1
volumes:
- /var/run/docker.sock:/var/run/docker.sock
如果是要一個kafka集群,那么 docker-compose.yml 內容如下:
# yaml 配
version: '2'
services:
zookeeper:
image: wurstmeister/zookeeper
restart: always
ports:
- 2181:2181
kafka1:
image: wurstmeister/kafka
restart: always
depends_on:
- zookeeper
ports:
- 9093:9093
environment:
KAFKA_ADVERTISED_HOST_NAME: kafka1
KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181/kafka
KAFKA_LISTENERS: PLAINTEXT://:9093
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.209.128:9093
KAFKA_BROKER_ID: 1
volumes:
- /var/run/docker.sock:/var/run/docker.sock
kafka2:
image: wurstmeister/kafka
restart: always
depends_on:
- zookeeper
ports:
- 9094:9094
environment:
KAFKA_ADVERTISED_HOST_NAME: kafka2
KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181/kafka
KAFKA_LISTENERS: PLAINTEXT://:9094
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.209.128:9094
KAFKA_BROKER_ID: 2
volumes:
- /var/run/docker.sock:/var/run/docker.sock
kafka3:
image: wurstmeister/kafka
restart: always
depends_on:
- zookeeper
ports:
- 9095:9095
environment:
KAFKA_ADVERTISED_HOST_NAME: kafka3
KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181/kafka
KAFKA_LISTENERS: PLAINTEXT://:9095
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://192.168.209.128:9095
KAFKA_BROKER_ID: 3
volumes:
- /var/run/docker.sock:/var/run/docker.sock
另外,還有幾個環境變量需要說明一下:
KAFKA_ADVERTISED_HOST_NAME:廣播主機名稱,一般用IP指定
KAFKA_ZOOKEEPER_CONNECT:Zookeeper連接地址,格式:zoo1:port1,zoo2:port2:/path
KAFKA_LISTENERS:Kafka啟動所使用的的協議及端口
KAFKA_ADVERTISED_LISTENERS:Kafka廣播地址及端口,也就是告訴客戶端,使用什么地址和端口能連接到Kafka,這個很重要,如果不指定,宿主機以外的客戶端將無法連接到Kafka,比如我這里因為容器與宿主機做了端口映射,所以廣播地址采用的是宿主機的地址及端口,告訴客戶端只要連接到宿主機的指定端口就行了
KAFKA_BROKER_ID:指定BrokerId,如果不指定,將會自己生成
接着創建容器並啟動:
# 創建並啟動容器,可以使用 -f 參數指定docker-compose.yml文件
sudo docker-compose up -d
# 查看狀態
sudo docker-compose ps
# 停止並刪除容器,可以使用 -f 參數指定docker-compose.yml文件
sudo docker-compose down
查看狀態,雖然集群啟動了,但是記得連接要使用宿主機的地址和端口來連接。
