原文:初识kafka 之 指定时间开始消费

需求 在生产环境中,会遇到最近消费的几个小时数据异常,想重新按照时间消费。 例如,要求按照时间,消费前一天的数据。 关键字 OffsetAndTimestamp offsetAndTimestamp topicPartitionOffsetAndTimestampMap.get topicPartition 时间转offset 实现代码 ...

2022-04-15 16:40 0 1897 推荐指数:

查看详情

Java kafka 设置从指定时间戳开始消费

包含的功能: 1.Java kafka 设置从指定时间戳开始消费 2.JdbcTemplate操作MySql 3.Java多线程消费kafka 4.Java获取kafka所有topic pom.xml文件,引入kafka、mysql、jdbc ...

Fri Apr 02 23:36:00 CST 2021 0 1762
flink 根据时间消费kafka

经常遇到这样的场景,13点-14点的时候flink程序发生了故障,或者集群崩溃,导致实时程序挂掉1小时,程序恢复的时候想把程序倒回13点或者更前,重新消费kafka中的数据. 下面的代码就是根据指定时间戳(也可以换算成时间)开始消费数据,支持到这样就灵活了,可以在启动命令中加个参数,然后再 ...

Tue Jun 12 07:35:00 CST 2018 0 3334
Flink 消费Kafka的有趣现象:固定时间、固定数量的堆积

  今天和同事遇到一个非常有趣的问题,在Kafka监控页面上可以看到该topic的消息会堆积到10万条左右,然后再很快的消费完毕归为0,然后又开始堆积到10万条左右,时间间隔都是3分钟。第一反应,反压? 但是反压的也太整齐了吧。看了一眼代码,哈哈,CheckPoint的时间间隔是3分钟 ...

Wed Apr 01 03:08:00 CST 2020 0 1018
springboot中实现kafka指定offset消费

kafka消费过程难免会遇到需要重新消费的场景,例如我们消费kafka数据之后需要进行存库操作,若某一时刻数据库down了,导致kafka消费的数据无法入库,为了弥补数据库down期间的数据损失,有一种做法我们可以指定kafka消费者的offset到之前某一时间的数值,然后重新进行消费 ...

Sat Dec 14 19:24:00 CST 2019 1 2038
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM