原文:【譯】Apache Flink Kafka consumer

Flink提供了Kafka connector用於消費 生產Apache Kafka topic的數據。Flink的Kafka consumer集成了checkpoint機制以提供精確一次的處理語義。在具體的實現過程中,Flink不依賴於Kafka內置的消費組位移管理,而是在內部自行記錄和維護consumer的位移。 用戶在使用時需要根據Kafka版本來選擇相應的connector,如下表所示: ...

2017-09-08 14:49 1 8788 推薦指數:

查看詳情

Kafka設計解析(二十)Apache Flink Kafka consumer

轉載自 huxihx,原文鏈接 Apache Flink Kafka consumer Flink提供了Kafka connector用於消費/生產Apache Kafka topic的數據。FlinkKafka consumer集成了checkpoint機制以提供精確一次 ...

Mon Aug 27 06:43:00 CST 2018 0 3310
Apache Kafka(九)- Kafka Consumer 消費行為

1. Poll Messages 在Kafka Consumer 中消費messages時,使用的是poll模型,也就是主動去Kafka端取數據。其他消息管道也有的是push模型,也就是服務端向consumer推送數據,consumer僅需等待即可。 Kafka Consumer的poll模型 ...

Fri Sep 13 05:14:00 CST 2019 0 565
flink-connector-kafka consumer checkpoint源碼分析

轉發請注明原創地址:http://www.cnblogs.com/dongxiao-yang/p/7700600.html 《flink-connector-kafka consumer的topic分區分配源碼》一文提到了在flink-connector-kafkaconsumer ...

Sat Oct 21 01:28:00 CST 2017 0 1218
flink-connector-kafka consumer的topic分區分配源碼

轉載請注明原創地址 http://www.cnblogs.com/dongxiao-yang/p/7200599.html flink官方提供了連接kafka的connector實現,由於調試的時候發現部分消費行為與預期不太一致,所以需要研究一下源碼 ...

Wed Jul 19 03:29:00 CST 2017 0 3358
】調優Apache Kafka集群

  今天帶來一篇譯文“調優Apache Kafka集群”,里面有一些觀點並無太多新穎之處,但總結得還算詳細。該文從四個不同的目標出發給出了各自不同的參數配置,值得大家一讀~ 原文地址請參考:https://www.confluent.io/blog ...

Sat Jun 03 19:44:00 CST 2017 0 2866
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM