近段时间学习极客时间李玥老师的后端存储实战课时，看到一个很多意思的东西：用kafka存储点击流的数据，并重复处理。在以往的使用中，kafka只是一个消息传输的载体，消息被消费后就不能再次消费。新知识与印象相冲突，于是就有了本篇文章：kafka数据如何被重复消费。 前期理论了解 首先我先去官网 ...

在做分布式编译的时候，每一个worker都有一个consumer，适用的kafka+zookeep的配置都是默认的配置，在消息比较少的情况下，每一个consumer都能均匀得到互不相同的消息，但是当消息比较多的时候，这个时候consumer就有重复消费的情况。 如何排查这种问题呢？ 最 ...

关于 Kafka 消息丢失、重复消费和顺序消费的问题 消息丢失，消息重复消费，消息顺序消费等问题是我们使用 MQ 时不得不考虑的一个问题，下面我结合实际的业务来和你分享一下解决方案。 消息丢失问题 比如我们使用 Kakfa 时，以下场景都会发生消息丢失： producer ...

1. 丢消息 检测消息丢失的方法 一般而言，一个新的系统刚刚上线，各方面都不太稳定，需要一个磨合期，这个时候，特别需要监控到你的系统中是否有消息丢失的情况。 如果是 IT 基础设施比较完善的公司，一般都有分布式链路追踪系统，使用类似的追踪系统可以很方便地追踪每一条消息。 可以利用消息 ...

消费者与分区的对应关系总结 消费者数据重复问题说明 生产者的可靠性保证 ...

也没看到能解决重复消费的问题的文章，于是在flink官网中搜索此类场景的处理方式，发现官网也没有实现f ...

https://www.jianshu.com/p/8a5630e2c317 https://www.jianshu.com/p/4491cba335d1 ...

先处理消费端的丢失数据和重复消费 这俩种情况都是 消息偏移offset的问题导致的，只是场景不同。 offset位移提交一般有俩种方式，自动位移提交和手动位移提交。用enable.auto.commit这个配置属性去控制 丢失消息一般是自动提交的问题，所以切换成手动位移提交就可以 ...