flink入门实战总结
随着大数据技术在各行各业的广泛应用，要求能对海量数据进行实时处理的需求越来越多，同时数据处理的业务逻辑也越来越复杂，传统的批处理方式和早期的流式处理框架也越来越难以在延迟性、吞吐量、容错能力以及使用便捷性等方面满足业务日益苛刻的要求。 在这种形势下，新型流式处理框架Flink通过创造性地 ...
原文：flink入门到实战（2）flink优化总结
一 高性能Flink SQL优化技巧 Group Aggregate优化技巧 开启MicroBatch或MiniBatch 提升吞吐 MicroBatch和MiniBatch都是微批处理，只是微批的触发机制略有不同。原理同样是缓存一定的数据后再触发处理，以减少对State的访问，从而提升吞吐并减少数据的输出量。 MiniBatch主要依靠在每个Task上注册的Timer线程来触发微批，需要消耗一定 ...
2020-05-07 11:01 0 2754 推荐指数：
相关推荐
flink入门到实战（3）flink进阶篇
Flink 面试--进阶篇 1、Flink是如何支持批流一体的？ 2、Flink是如何做到高效的数据交换的？ 3、Flink是如何做容错的？ 4、Flink 分布式快照的原理是什么 ...
flink入门到实战（5）flink流处理从0到1
一、DataStream API之Data Sources（消费者之数据源） 介绍： source是程序的数据源输入，你可以通过StreamExecutionEnvironment.addSource(sourceFunction)来为你的程序添加一个source。 flink提供了大量的已经 ...
flink入门到实战（6）flink批处理从0到1
一、DataSet API之Data Sources（消费者之数据源） 介绍： flink提供了大量的已经实现好的source方法，你也可以自定义source 通过实现sourceFunction接口来自定义无并行度的source， 或者你也可以通过实现 ...
京东：Flink SQL 优化实战
为： 背景 Flink SQL 的优化 总结 一、背景 目前，京东 ...
项目实战 从 0 到 1 学习之Flink（9）flink实时数仓从入门到实战
第一章、flink实时数仓入门 一、依赖 二、Flink DataSet API编程指南 Flink最大的亮点是实时处理部分，Flink认为批处理是流处理的特殊情况，可以通过一套引擎处理批量和流式数据，而Flink在未来也会重点投入更多的资源到批流融合中。我在Flink ...
Flink（一）Flink的入门简介
一. Flink的引入 这几年大数据的飞速发展，出现了很多热门的开源社区，其中著名的有 Hadoop、Storm，以及后来的 Spark，他们都有着各自专注的应用场景。Spark 掀开了内存计算的先河，也以内存为赌注，赢得了内存计算的飞速发展。Spark 的火热或多或少的掩盖 ...
flink入门到实战（8）flink 有状态 udf引发的大坑一
场景 最近在做一个画像的任务，sql实现的，其中有一个udf，会做很多事情，包括将从redis读出历史值加权，并将中间结果和加权后的结果更新到redis。 大家都知道，flink 是可以支持事件处理的，也就是可以没有时间的概念，那么在聚合，join等操作的时候，flink内部会维护 ...