Kafka server部署配置優化


Kafka配置優化其實都是修改server.properties文件中參數值

1、網絡和io操作線程配置優化

     # broker處理消息的最大線程數
        num.network.threads=xxx
    #  broker處理磁盤IO的線程數
        num.io.threads=xxx

建議配置:

一般num.network.threads主要處理網絡io,讀寫緩沖區數據,基本沒有io等待,配置線程數量為cpu核數加1.

num.io.threads主要進行磁盤io操作,高峰期可能有些io等待,因此配置需要大些。配置線程數量為cpu核數2倍,最大不超過3倍.

2、log數據文件刷盤策略

為了大幅度提高producer寫入吞吐量,需要定期批量寫文件。

建議配置:

# 每當producer寫入10000條消息時,刷數據到磁盤

log.flush.interval.messages=10000

# 每間隔1秒鍾時間,刷數據到磁盤

log.flush.interval.ms=1000 

3、日志保留策略配置

當kafka server的被寫入海量消息后,會生成很多數據文件,且占用大量磁盤空間,如果不及時清理,可能磁盤空間不夠用,kafka默認是保留7天。

建議配置:

# 保留三天,也可以更短 

log.retention.hours=72

# 段文件配置1GB,有利於快速回收磁盤空間,重啟kafka加載也會加快(如果文件過小,則文件數量比較多,

# kafka啟動時是單線程掃描目錄(log.dir)下所有數據文件)

log.segment.bytes=1073741824 

4、replica復制配置

每個follow從leader拉取消息進行同步數據,follow同步性能由這幾個參數決定,分別為拉取線程數(num.replica.fetchers)、最小字節數(replica.fetch.min.bytes)、最大字節數(replica.fetch.max.bytes)、最大等待時間(replica.fetch.wait.max.ms)

建議配置:

num.replica.fetchers 配置多可以提高follower的I/O並發度,單位時間內leader持有跟多請求,相應負載會增大,需要根據機器硬件資源做權衡

replica.fetch.min.bytes=1  默認配置為1字節,否則讀取消息不及時

replica.fetch.max.bytes= 5  * 1024 * 1024 默認為1MB,這個值太小,5MB為宜,根據業務情況調整

replica.fetch.wait.max.ms  follow拉取頻率,頻率過高,會導致cpu飆升,因為leader無數據同步,leader會積壓大量無效請求情況,又因為0.8.2.x版本存在bug,定時器超時檢查比較消耗CPU,使用者需要做好權衡

5、配置jmx服務

kafka server中默認是不啟動jmx端口的,需要用戶自己配置

[lizhitao@root kafka_2.10-0.8.1]$ vim bin/kafka-run-class.sh

#最前面添加一行

JMX_PORT=8060


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM