原文:【Flink系列六】构建实时计算平台——Flink 1.10+通过Kerberos连接HiveCatalog

背景 因为要开发Flinksql,决定要使用HiveCatalog的支持,Flink当前最新版本是 . . ,集群Hive的版本是 . . ,而且需要用某个Linux用户进行代理。 在实际开发中,遇到两个问题: Hive . . 使用的不是jdbc,而是 MetastoreClient,通过Thrift进行连接,而他不支持HADOOP PROXY USER。 Kerberos认证需要什么配置文件, ...

2021-03-15 15:41 0 321 推荐指数:

查看详情

Flink系列八】构建实时计算平台——动态加载UDF

前言 本文首发自https://www.cnblogs.com/slankka/ 转载请注明出处。 本文的主要内容是介绍如何动态加载Flink作业的UDF。 Classloader 加载UDF一定是classLoader做的,而作业启动的过程中,App ClassLoader的具体实现类 ...

Tue May 11 01:06:00 CST 2021 0 1519
Flink系列零】构建实时计算平台——FlinkSQL 作业菜鸟笔记

前言 因为最近的需求是做FlinkSQL平台,需要在实时计算平台上集成FlinkSQL功能,但目前刚刚有了研究成果,所以有了这篇笔记。 第一步:编写一个流 这里使用python编写的一个流,比Java简洁。 需要注意的是 pip install kakfa-python,不能是 pip ...

Mon May 10 19:56:00 CST 2021 0 267
Flink实时计算

flink计算过程:Source->Transform->Sink 整体设计 消费kafka数据,解析、计算后,分两路输出 1 归档(HDFS) 2 业务应用(PG) 代码实现 消费kafka:FlinkKafkaConsumer< ...

Tue Feb 15 22:54:00 CST 2022 0 754
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM