原文:Kafka——broker宕机后无法消费问题

背景 因磁盘满了,导致kafka所有的服务器全部宕机了,然后重启kafka集群,服务是启动成功了,但有一些报错: broker : broker : broker :一直在刷以下错误信息 虽然报了这些错,但kafka正常启动了,通过命令测试了集群能正常生产和消费消息,但是看kafka manager界面,出现副本未分配的异常情况: 检查消费这些主题的程序,果然是消费失败了,一直在刷如下异常信息: ...

2019-12-16 11:37 0 526 推荐指数:

查看详情

假如Kafka集群中一个broker宕机无法恢复,应该如何处理?

假如Kafka集群中一个broker宕机无法恢复, 应该如何处理? 今天面试时遇到这个问题, 网上资料说添加新的broker, 是不会自动同步旧数据的. 笨办法 环境介绍 三个broker的集群, zk,kafka装在一起 创建测试topic 查看 注意当前 ...

Sat Aug 03 23:19:00 CST 2019 0 666
RocketMQ的broker节点挂掉重启导致的消息重复消费问题解决方案

我的RocketMQ架构图如下: 故障描述: Broker-b所在服务器宕机8小时(1:00-9:00), 重启Broker-b, 8小时期间产生的消息被消费者订阅消费, 由于消费者等幂条件是:2小时内相同消息(msgId相同)不重复发送, 但是此时已经超过两小时 ...

Wed Nov 11 01:21:00 CST 2020 0 1791
kafka一个broker挂掉无法写入

Kafka日志: broker 133 received LeaderAndIsrRequest with correlation id 1 from controller 132 epoch 35 fro partition [__consumer_offsets,13] but cannot ...

Tue Sep 10 23:01:00 CST 2019 0 1035
Kafka 0.8 宕机问题排查步骤

CPU 利用率高的排查方法 看看该机器的连接数是不是比其他机器多,监听的端口数:netstat -anlp | wc -l Kafka-0.8的停止和启动 启动: cd /usr/local/kafka-0.8.0-release/ && nohup ./bin ...

Mon Feb 06 00:48:00 CST 2017 0 4501
简记kafka group id相同导致的不同consumers启动消费和延时消费问题

场景: 在一个线程内,使用相同的brokers和group id等配置,根据传入的topic数量N,分别定义N个consumer,按定义顺序先后调用consumers消费 现象: 程序启动,kafka消费线程正常初始化,调用poll尝试消费,一直没有返回消息. 程序启动10分钟左右后,开始正常 ...

Sat Aug 24 03:32:00 CST 2019 1 3480
kafkabroker

不同broker之间的关系   Kafka使用zookeeper来维护集群成员的信息。每个broker都有一个唯一标识符,这个标识符可以在配置文件中指定,也可以自动生成。在broker启动时,它通过建立临时节点把自己的ID注册到zookeeper。kafka组件订阅broker ...

Wed Jan 27 02:20:00 CST 2021 0 640
kafka broker

在server.properties文件中配置: 1、broker.id kafka集群是由多个节点组成的,每个节点称为一个broker,中文翻译是代理。每个broker都有一个不同的brokerId,由broker.id指定,是一个不小于0的整数,各brokerId必须不同,但不必连续 ...

Mon Jun 03 02:51:00 CST 2019 0 1967
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM