原文:如何保证kafka消息不丢失

背景 这里的kafka值得是broker,broker消息丢失的边界需要对齐一下: 已经提交的消息 有限度的持久化 如果消息没提交成功,并不是broke丢失了消息 有限度的持久化 broker可用 生产者丢失消息 producer.send Object msg 这个发送消息的方式是异步的 fire and forget,发送而不管结果如何 失败的原因可能有很多,比如网络抖动,发送消息超出大小限 ...

2020-04-27 00:14 0 6232 推荐指数:

查看详情

kafka如何保证消息丢失

kafka的结构如下: 一、生产者   1、生产者(Producer)使用send方法 发送消息是异步的,所以可以通过get方法或回调函数拿到调用的结果。如果失败了,可以重试。    重试次数可以稍微大些,比如5次。间隔可以稍微长些。 二、消费者 ...

Wed Dec 08 01:09:00 CST 2021 0 1859
Kafka如何保证消息丢失不重复

首先需要思考下边几个问题: 消息丢失是什么造成的,从生产端和消费端两个角度来考虑 消息重复是什么造成的,从生产端和消费端两个角度来考虑 如何保证消息有序 如果保证消息不重不漏,损失的是什么 大概总结下 消费端重复消费:建立去重表 消费端丢失数据:关闭自动提交offset,处理完之后 ...

Wed Oct 10 18:15:00 CST 2018 0 15076
Kafka如何保证消息丢失不重复

转载:https://blog.csdn.net/matrix_google/article/details/79888144 首先要考虑这么几个问题: 消息丢失是什么造成的,从生产端和消费端两个角度来考虑 消息重复是什么造成的,从生产端和消费端两个角度来考虑 ...

Fri Nov 30 00:24:00 CST 2018 0 676
今天面试总结,关于kafka 保证消息丢失问题

kafka 保证消息丢失。原因如下有: 1)生产者如果异步发送,会造成消息丢失,发送的过程中kafka会先把消息缓存起来。然后批量发送。 若批量发送之前client宕机会造成消息丢失。生产者不丢失消息需要同步发送 2)kafka服务器默认异步刷盘,先刷到系统页缓存,然后再刷新到日志文件。页 ...

Tue Jul 17 06:04:00 CST 2018 0 6373
Kafka如何保证数据不丢失

Kafka如何保证数据不丢失 1.生产者数据的不丢失 kafka的ack机制:在kafka发送数据的时候,每次发送消息都会有一个确认反馈机制,确保消息正常的能够被收到,其中状态有0,1,-1。 如果是同步模式:ack机制能够保证数据的不丢失,如果ack设置为0,风险很大,一般不建议设置 ...

Fri Mar 16 04:03:00 CST 2018 0 3666
kafka 如何保证数据不丢失

一般我们在用到这种消息中件的时候,肯定会考虑要怎样才能保证数据不丢失,在面试中也会问到相关的问题。但凡遇到这种问题,是指3个方面的数据不丢失,即:producer consumer 端数据不丢失 broker端数据不丢失下面我们分别从这三个方面来学习,kafka是如何保证数据不丢失 ...

Sun Jan 17 04:14:00 CST 2021 0 474
kafka 如何保证数据不丢失

一般我们在用到这种消息中件的时候,肯定会考虑要怎样才能保证数据不丢失,在面试中也会问到相关的问题。但凡遇到这种问题,是指3个方面的数据不丢失,即:producer consumer 端数据不丢失 broker端数据不丢失下面我们分别从这三个方面来学习,kafka是如何保证数据不丢失 ...

Wed Sep 11 02:04:00 CST 2019 1 3934
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM