原文:【转】Kafka某topic无法消费解决方案&Kafka某Topic数据清理

由于项目原因,最近经常碰到Kafka消息队列某topic在集群宕机重启后无法消费的情况。碰到这种情况,有三步去判断原因所在: step A:如果用kafka串口 即console consumer 是可以正常消费该topic,则排除kafka集群出现故障 step B:若平台业务能正常消费其他topic的消息,则排除平台业务代码逻辑问题 step C:不到万不得已,则只能手动删除kafka的对应t ...

2017-11-01 11:31 0 1659 推荐指数:

查看详情

Kafka日志及Topic数据清理

由于项目原因,最近经常碰到Kafka消息队列拥堵的情况。碰到这种情况为了不影响在线系统的正常使用,需要大家手动的清理Kafka Log。但是清理Kafka Log又不能单纯的去删除中间环节产生的日志,中间关联的很多东西需要手动同时去清理,否则可能会导致删除后客户端无法消费的情况。 在介绍 ...

Wed Dec 21 06:22:00 CST 2016 1 73483
Kafka日志及Topic数据清理

由于项目原因,最近经常碰到Kafka消息队列拥堵的情况。碰到这种情况为了不影响在线系统的正常使用,需要大家手动的清理Kafka Log。但是清理Kafka Log又不能单纯的去删除中间环节产生的日志,中间关联的很多东西需要手动同时去清理,否则可能会导致删除后客户端无法消费的情况。 在介绍手动 ...

Wed Dec 26 01:13:00 CST 2018 0 1468
kafka删除topic数据

一、概述 生产环境中,有一个topic数据量非常大。这些数据不是非常重要,需要定期清理。 要求:默认保持24小时,某些topic 需要保留2小时或者6小时 二、清除方式 主要有3个: 1. 基于时间 2. 基于日志大小 3. 基于日志起始偏移量 详情,请参考链接 ...

Wed Jan 30 01:34:00 CST 2019 0 1241
kafka消费kafka查看topic是否有数据

通过原生kafka,查看对应的topic是否有数据 下载kafka:登录Apache kafka官方下载 http://kafka.apache.org/downloads.html 配置config文件 vim server.properties 启动kafka ...

Tue Nov 26 03:27:00 CST 2019 0 10644
kafka删除topic数据

一、概述 生产环境中,有一个topic数据量非常大。这些数据不是非常重要,需要定期清理。 要求:默认保持24小时,某些topic 需要保留2小时或者6小时 二、清除方式 主要有3个: 1. ...

Thu Mar 12 04:56:00 CST 2020 0 6732
kafka消费者如何才能从头开始消费某个topic的全量数据

消费者要从头开始消费某个topic的全量数据,需要满足2个条件(spring-kafka): 对应的spring-kafka消费者客户端配置参数为: 注意:从kafka-0.9版本及以后,kafka消费者组和offset信息就不存zookeeper ...

Thu Apr 13 03:29:00 CST 2017 0 45014
kafka消费者如何才能从头开始消费某个topic的全量数据

消费者要从头开始消费某个topic的全量数据,需要满足2个条件(spring-kafka): 对应的spring-kafka消费者客户端配置参数为: 注意:从kafka-0.9版本及以后,kafka消费者组和offset信息就不存zookeeper ...

Tue Jun 15 19:10:00 CST 2021 0 203
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM