CheckPoint 当程序出现问题需要恢复 Sate 数据的时候,只有程序提供支持才可以实现 State 的容错。State 的容错需要依靠 CheckPoint 机制,这样才可以保证 Exactly once 这种语义,但是注意,它只能保证 Flink 系统内的 Exactly once,比如 Flink 内置支持的算子。针对 Source和 Sink 组件,如果想要保证 Exactly on ...
2020-11-29 16:54 0 593 推荐指数:
1、State概念理解 在Flink中,按照基本类型,对State做了以下两类的划分:Keyed State, Operator State。 Keyed State:和Key有关的状态类型,它只能被基于KeyedStream之上的操作,方法所使用。我们可以从逻辑上理解这种状态是一个并行度操作 ...
具体实现代码如下所示: ...
Checkpoint checkpoint是Flink容错的核心机制。它可以定期的将各个Operator处理的数据进行快照存储(Snapshot)。 如果Flink程序出现宕机,可以重新从这些快照中恢复数据。 Flink容错机制的核心就是持续创建分布式数据流及其状态的一致快照 ...
Flink在流上最大的特点,就是引入全局snapshot, CheckpointCoordinator 做snapshot的核心组件为, CheckpointCoordinator CheckpointIDCounter 有两种 ...
1 Flink 应用程序启动 2 Checkpoint 保存与恢复 2.1 Checkpoin设置与保存 默认情况下,如果设置了Checkpoint选项,则Flink只保留最近成功生成的1个Checkpoint,而当Flink程序失败时 ...
目录 相关基础 问题 反压 InputGate(接收端处理反压) ResultPartition(发送端处理反压) 总结 最后 相关基础 在讲解Flink的checkPoint和背压机制之前,我们先来看下checkpoint和背压的相关 ...
State Backend(状态的后端存储) 默认情况下,state会保存在taskmanager的内存中,checkpoint会存储在JobManager的内存中。 state 的store和checkpoint的位置取决于State Backend的配置 ...