原文:Kafka消費者拉取數據異常Unexpected error code 2 while fetching data

Kafka消費程序間歇性報同一個錯: 上網沒查到相關資料,只好自己分析。通過進一步分析日志發現,只有在拉取某一個特定的topic的數據時報錯,如果拉取其他topic的數據則不會報錯。而從這個異常信息來看是拉取數據時進行類似CRC校驗時,校驗結果不正確。所以,感覺可能是數據損壞。於是聯系了OP 我們單位開發人員不去現場操作 ,把疑似出錯的那個topic partition和offset信息發給他,他 ...

2020-07-03 13:49 0 1207 推薦指數:

查看詳情

Kafka踩坑系列之一】消費者不出數據

一、Bug背景 因業務需要,我們部署了兩個Kafka集群。Kafka集群A的版本號為:0.11.0.1,Kafka集群B的版本號為0.9.0.1。 因兩個Kafka集群的版本號不一致,嘗試了多種解決方案,發現總有一個集群出不來數據,無法互相兼容。 二、Kafka ...

Sun Oct 01 01:50:00 CST 2017 0 5097
kafka 消費者取消息

本文只跟蹤消費者取消息的流程。對於 java 客戶端, kafka 的生產者和消費者復用同一個網絡 io 類 NetworkClient。 入口在 KafkaConsumer#pollOnce 中,抽出主要步驟: Fetcher#sendFetches ...

Wed Oct 02 23:20:00 CST 2019 0 962
Kafka 消費者讀取數據

消費者不需要自行管理 offset(分組+topic+分區),系統通過 broker 將 offset 存放在本地。低版本通過 zk 自行管理。系統自行管理分區和副本情況。消費者斷線后會自動根據上一次記錄的 offset 去獲取數據(默認一分鍾更新一次 offset),同一個分組中的客戶 ...

Thu Nov 19 00:17:00 CST 2020 0 404
Kafka消費者-從Kafka讀取數據

,接收到消息的消費者都可以處理此消息。 (2)Kafka消費者消費者Kafka為這兩種模型提 ...

Thu May 03 00:10:00 CST 2018 3 55952
Kafka消費者-從Kafka讀取數據

被廣播給所有的消費者,接收到消息的消費者都可以處理此消息。 (2)Kafka消費者消費者組 ...

Fri Apr 24 19:02:00 CST 2020 0 2035
kafka消費者如何才能從頭開始消費某個topic的全量數據

消費者要從頭開始消費某個topic的全量數據,需要滿足2個條件(spring-kafka): 對應的spring-kafka消費者客戶端配置參數為: 注意:從kafka-0.9版本及以后,kafka消費者組和offset信息就不存zookeeper ...

Thu Apr 13 03:29:00 CST 2017 0 45014
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM