【Flink系列七】构建实时计算平台——校验FlinkSQL
前言 FlinkSQL 和常见的SQL一样，也分为 DDL,DML,DQL,DCL。 本文的主要内容是探讨如何利用FlinkAPI 对多行SQL语句进行校验。 SQL语言共分为四大类：数据查询语言DQL，数据操纵语言DML，数据定义语言DDL，数据控制语言DCL。 以下是几个 ...
原文：【Flink系列零】构建实时计算平台——FlinkSQL 作业菜鸟笔记
前言 因为最近的需求是做FlinkSQL平台，需要在实时计算平台上集成FlinkSQL功能，但目前刚刚有了研究成果，所以有了这篇笔记。 第一步：编写一个流 这里使用python编写的一个流，比Java简洁。 需要注意的是 pip install kakfa python，不能是 pip install kafka。 这里生产的集群是SCRAM加密的，所以配置会多一些。 有一个单词本，words.t ...
2021-05-10 11:56 0 267 推荐指数：
相关推荐
【Flink系列四】构建实时计算平台——Flink SQLClient启动失败的问题笔记
问题 报错 org.apache.flink.table.api.NoMatchingTableFactoryException: Could not find a suitable table factory ...
【Flink系列八】构建实时计算平台——动态加载UDF
前言 本文首发自https://www.cnblogs.com/slankka/ 转载请注明出处。 本文的主要内容是介绍如何动态加载Flink作业的UDF。 Classloader 加载UDF一定是classLoader做的，而作业启动的过程中，App ClassLoader的具体实现类 ...
【Flink系列六】构建实时计算平台——Flink 1.10+通过Kerberos连接HiveCatalog
背景 因为要开发Flinksql，决定要使用HiveCatalog的支持，Flink当前最新版本是1.12.2，集群Hive的版本是1.1.0，而且需要用某个Linux用户进行代理。 在实际开发中，遇到两个问题： Hive 1.1.0 使用的不是jdbc ...
【Flink系列二】构建实时计算平台——特别篇，用InfluxDb收集Flink Metrics
修改FLINK_CONF 以该配置启动的Flink作业，Flink会自动将指标写入Influx ...
【Flink系列一】构建实时计算平台——Flink开启Checkpoint，以及从Checkpoint恢复
前言 Flink提供了Checkpoint/Savepoint来保存状态，以便在出错时进行恢复，在上一个状态的基础上恢复计算流程。 问题 1. 如何开启Checkpoint？ Flink-Checkpointing 2. 如何从Checkpoint恢复？ Checkpoint恢复 ...
【Flink系列三】构建实时计算平台——特别篇，Influxdb Java客户端访问指标数据
Influxdb Java客户端 Influxdb 的Docker版本目前最高是1.8.3. 官方最高版本是2.0. Note: We recommend using the new cli ...
Flink实时计算
flink计算过程：Source->Transform->Sink 整体设计 消费kafka数据，解析、计算后，分两路输出 1 归档（HDFS） 2 业务应用（PG） 代码实现 消费kafka：FlinkKafkaConsumer< ...