原文:Kafka消费者拉取数据异常Unexpected error code 2 while fetching data

Kafka消费程序间歇性报同一个错: 上网没查到相关资料,只好自己分析。通过进一步分析日志发现,只有在拉取某一个特定的topic的数据时报错,如果拉取其他topic的数据则不会报错。而从这个异常信息来看是拉取数据时进行类似CRC校验时,校验结果不正确。所以,感觉可能是数据损坏。于是联系了OP 我们单位开发人员不去现场操作 ,把疑似出错的那个topic partition和offset信息发给他,他 ...

2020-07-03 13:49 0 1207 推荐指数:

查看详情

Kafka踩坑系列之一】消费者不出数据

一、Bug背景 因业务需要,我们部署了两个Kafka集群。Kafka集群A的版本号为:0.11.0.1,Kafka集群B的版本号为0.9.0.1。 因两个Kafka集群的版本号不一致,尝试了多种解决方案,发现总有一个集群出不来数据,无法互相兼容。 二、Kafka ...

Sun Oct 01 01:50:00 CST 2017 0 5097
kafka 消费者取消息

本文只跟踪消费者取消息的流程。对于 java 客户端, kafka 的生产者和消费者复用同一个网络 io 类 NetworkClient。 入口在 KafkaConsumer#pollOnce 中,抽出主要步骤: Fetcher#sendFetches ...

Wed Oct 02 23:20:00 CST 2019 0 962
Kafka 消费者读取数据

消费者不需要自行管理 offset(分组+topic+分区),系统通过 broker 将 offset 存放在本地。低版本通过 zk 自行管理。系统自行管理分区和副本情况。消费者断线后会自动根据上一次记录的 offset 去获取数据(默认一分钟更新一次 offset),同一个分组中的客户 ...

Thu Nov 19 00:17:00 CST 2020 0 404
Kafka消费者-从Kafka读取数据

,接收到消息的消费者都可以处理此消息。 (2)Kafka消费者消费者Kafka为这两种模型提 ...

Thu May 03 00:10:00 CST 2018 3 55952
Kafka消费者-从Kafka读取数据

被广播给所有的消费者,接收到消息的消费者都可以处理此消息。 (2)Kafka消费者消费者组 ...

Fri Apr 24 19:02:00 CST 2020 0 2035
kafka消费者如何才能从头开始消费某个topic的全量数据

消费者要从头开始消费某个topic的全量数据,需要满足2个条件(spring-kafka): 对应的spring-kafka消费者客户端配置参数为: 注意:从kafka-0.9版本及以后,kafka消费者组和offset信息就不存zookeeper ...

Thu Apr 13 03:29:00 CST 2017 0 45014
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM