kafka參數在線修改


當kafka集群單個節點出現磁盤滿了,需要清理歷史topic數據;方法如下

1): 停掉kafka進程,將kafka的server.properties中的log.retention.hours=1/60;  將日志數據保留1分鍾

或者

在不用停掉kafka進程的情況下執行:

kafka-configs.sh –zookeeper localhost:2181 –entity-type topics –entity-name test –alter –add-config retention.ms=86400000

#test 為topic名稱
#retention.ms 保留時間24小時

這樣就可以保證當前消費者不會再消費阻塞的數據了

首先是可以在配置文件中設置全局性的topic配置參數,其次是可以在創建topic時使用 –confi設置一個或多個自定義的配置。自定義的配置項優先級別會高於全局配置。

topic 參數設置如下:

 

這是在創建一個topic時自定義了最大的消息字節數和消息持久化參數:

> bin/kafka-topics.sh –zookeeper localhost:2181 –create –topic my-topic –partitions 1 –replication-factor 1 –config max.message.bytes=64000 –config flush.messages=1

  

可以在創建topic后繼續使用命令修改topic中已經定義了的參數,本示例更新my-topic的最大message大小::

> bin/kafka-configs.sh –zookeeper localhost:2181 –entity-type topics –entity-name my-topic –alter –add-config max.message.bytes=128000

  

要檢查在主題上設置的覆蓋,您可以執行

> bin/kafka-configs.sh –zookeeper localhost:2181 –entity-type topics –entity-name my-topic –describe

  

或者是刪除指定的topic中的某個自定義參數:

> bin/kafka-topics.sh –zookeeper localhost:2181 –alter –topic my-topic –deleteConfig max.message.bytes

  

或者是刪除指定的topic中的某個自定義參數:

> bin/kafka-configs.sh –zookeeper localhost:2181 –entity-type topics –entity-name my-topic –alter –delete-config max.message.bytes

  

 

 




免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM