kafka中partition的概念，解決kafka消費瓶頸

最近開發一個項目，需要遷移大數據量，所以用到kafka，但消費速度一直不快，部分java代碼如下

 

解釋：服務端用kafkaTemplate去發送數據

 

 

 

 

解釋：客戶端開15個接收端去消費數據

 

但是消費端一直速度很慢，最后經過我們領導的指點，發現kafka有個參數partition需要調優。

百度了下相關參數知識，總結如下：

 

1個partition只能被同組的一個consumer消費，同組的consumer則起到均衡效果

消費者多於partition

topic： test 只有一個partition

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

在g2組中啟動兩個consumer，

1. bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning --consumer.config config/consumer_g2.properties
2. bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning --consumer.config config/consumer_g2.properties

消費者數量為2大於partition數量1，此時partition和消費者進程對應關系如下：

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group g2
TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG CONSUMER-ID HOST CLIENT-ID test 0 9 9 0 consumer-1-4a2a4aa8-32f4-4904-9c16-1c0bdf7128a2 /127.0.0.1 consumer-1 - - - - - consumer-1-fd7b120f-fd21-4e07-8c23-87b71c1ee8a5 /127.0.0.1 consumer-1

 備注：消費者consumer-1-fd7b120f-fd21-4e07-8c23-87b71c1ee8a5無對應的partition。

用圖表示為

 

 

如上圖，向test發送消息：1，2， 3，4，5，6，7，8，9
只有C1能接收到消息，C2則不能接收到消息，即同一個partition內的消息只能被同一個組中的一個consumer消費。當消費者數量多於partition的數量時，多余的consumer消費者空閑。
也就是說如果kafka配置里只配了一個partition，你在同一組topic里啟動多少個consumer都沒用，partition的數量決定了消費者consumer在此topic中被均衡的程度。例如partition=4，則在同一組中最多被4個consumer均衡消費。

 

消費者少於和等於partition

topic：test2包含3個partition

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 3 --topic test2

開始時，在g3組中啟動2個consumer,

1.bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test2 --from-beginning --consumer.config config/consumer_g3.properties
2.bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test2 --from-beginning --consumer.config config/consumer_g3.properties

則對應關系如下：

TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG CONSUMER-ID HOST CLIENT-ID
test2 0 8 8 0 consumer-1-8b872ef7-a2f0-4bd3-b2a8-7b26e4d8ab2c /127.0.0.1 consumer-1 test2 1 7 7 0 consumer-1-8b872ef7-a2f0-4bd3-b2a8-7b26e4d8ab2c /127.0.0.1 consumer-1 test2 2 8 8 0 consumer-1-f362847d-1094-4895-ad8b-1e1f1c88936c /127.0.0.1 consumer-1

其中，consumer-1-8b872ef7-a2f0-4bd3-b2a8-7b26e4d8ab2c對應了2個partition

用圖表示為：

消費者數量2小於partition的數量3，此時，向test2發送消息1，2，3，4，5，6，7，8，9
C1接收到1，3，4，6，7，9
C2接收到2，5，8
此時P1、P2對對應C1，即多個partition對應一個消費者，C1接收到消息量是C2的兩倍

然后，在g3組中再啟動一個消費者，使得消費者數量為3等於topic2中partition的數量

3.bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test2 --from-beginning --consumer.config config/consumer_g3.properties

對應關系如下：

TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG CONSUMER-ID HOST CLIENT-ID
test2 0 8 8 0 consumer-1-8b872ef7-a2f0-4bd3-b2a8-7b26e4d8ab2c /127.0.0.1 consumer-1
test2 1 7 7 0 consumer-1-ab472ed5-de11-4e56-863a-67bf3a3cc36a /127.0.0.1 consumer-1
test2 2 8 8 0 consumer-1-f362847d-1094-4895-ad8b-1e1f1c88936c /127.0.0.1 consumer-1

此時，partition和消費者是一對一關系，向test2發送消息1，2，3，4，5，6，7，8，9
C1接收到了：2，5，8
C2接收到了：3，6，9
C3接收到了：1，4，7
C1，C2，C3均分了test2的所有消息，即消息在同一個組之間的消費者之間均分了。

 

參考網址：https://www.cnblogs.com/sa-dan/p/8080197.html