由於項目原因，最近經常碰到Kafka消息隊列擁堵的情況。碰到這種情況為了不影響在線系統的正常使用，需要大家手動的清理Kafka Log。但是清理Kafka Log又不能單純的去刪除中間環節產生的日志，中間關聯的很多東西需要手動同時去清理，否則可能會導致刪除后客戶端無法消費的情況。 在介紹 ...

Topic日志清理 server.properties： log.cleanup.policy=delete (默認) 1. 按時間維度進行Kafka日志清理 log.retention.hours=1 log.retention.minutes=60 log.retention.ms ...

0x00 概述 本文主要講Kafka自身操作日志的清理方法(非Topic數據)，Topic數據自己有對應的刪除策略，請看這里。 Kafka長時間運行過程中，在kafka/logs目錄下產生了大量的kafka-request.log.*和server.log.*文件，其中*代表日期和時間 ...

背景問題： 使用kafka的路上踩過不少坑，其中一個就是在測試環境使用kafka一陣子以后，發現其日志目錄變的很大，占了磁盤很大空間，定位到指定目錄下發現其中一個系統自動創建的 topic，__consumer_offsets-45（kafka一共創建了50個分別從0~49標識）文件夾很大，上網 ...

由於項目原因，最近經常碰到Kafka消息隊列某topic在集群宕機重啟后無法消費的情況。碰到這種情況，有三步去判斷原因所在： step A：如果用kafka串口（即console-consumer）是可以正常消費該topic，則排除kafka集群出現故障 step B：若平台業務能正常消費 ...

一、概述 生產環境中，有一個topic的數據量非常大。這些數據不是非常重要，需要定期清理。 要求：默認保持24小時，某些topic 需要保留2小時或者6小時 二、清除方式 主要有3個： 1. 基於時間 2. 基於日志大小 3. 基於日志起始偏移量 詳情，請參考鏈接 ...

前言 Kafka將消息存儲在磁盤中，為了控制磁盤占用空間。kafka中每個分區副本都對應一個Log，而Log對應多個日志分段，這樣有利日志清理操作。Kafka提供兩種日志清理策略： 日志刪除（Log retention）：按一定的保留的策略直接刪除不符條件的日志分段； 日志壓縮 ...

一、概述 生產環境中，有一個topic的數據量非常大。這些數據不是非常重要，需要定期清理。 要求：默認保持24小時，某些topic 需要保留2小時或者6小時 二、清除方式 主要有3個： 1. ...