前言 本文首发自https://www.cnblogs.com/slankka/ 转载请注明出处。 本文的主要内容是介绍如何动态加载Flink作业的UDF。 Classloader 加载UDF一定是classLoader做的,而作业启动的过程中,App ClassLoader的具体实现类 ...
背景 因为要开发Flinksql,决定要使用HiveCatalog的支持,Flink当前最新版本是 . . ,集群Hive的版本是 . . ,而且需要用某个Linux用户进行代理。 在实际开发中,遇到两个问题: Hive . . 使用的不是jdbc,而是 MetastoreClient,通过Thrift进行连接,而他不支持HADOOP PROXY USER。 Kerberos认证需要什么配置文件, ...
2021-03-15 15:41 0 321 推荐指数:
前言 本文首发自https://www.cnblogs.com/slankka/ 转载请注明出处。 本文的主要内容是介绍如何动态加载Flink作业的UDF。 Classloader 加载UDF一定是classLoader做的,而作业启动的过程中,App ClassLoader的具体实现类 ...
前言 FlinkSQL 和常见的SQL一样,也分为 DDL,DML,DQL,DCL。 本文的主要内容是探讨如何利用FlinkAPI 对多行SQL语句进行校验。 SQL语言共分为四大类:数据 ...
前言 Flink提供了Checkpoint/Savepoint来保存状态,以便在出错时进行恢复,在上一个状态的基础上恢复计算流程。 问题 1. 如何开启Checkpoint? Flink-Checkpointing 2. 如何从Checkpoint恢复? Checkpoint恢复 ...
问题 报错 org.apache.flink.table.api.NoMatchingTableFactoryException: Could not find a suitable table factory ...
Influxdb 快速入门 原文地址:https://www.cnblogs.com/slankka/p/13865338.html 从Docker启动 Influxdb 进入Influxdb的Client 配置Flink Flink ifluxdb reporter ...
前言 因为最近的需求是做FlinkSQL平台,需要在实时计算平台上集成FlinkSQL功能,但目前刚刚有了研究成果,所以有了这篇笔记。 第一步:编写一个流 这里使用python编写的一个流,比Java简洁。 需要注意的是 pip install kakfa-python,不能是 pip ...
flink计算过程:Source->Transform->Sink 整体设计 消费kafka数据,解析、计算后,分两路输出 1 归档(HDFS) 2 业务应用(PG) 代码实现 消费kafka:FlinkKafkaConsumer< ...
Influxdb Java客户端 Influxdb 的Docker版本目前最高是1.8.3. 官方最高版本是2.0. Note: We recommend using the new cli ...