原文:【Flink系列六】構建實時計算平台——Flink 1.10+通過Kerberos連接HiveCatalog

背景 因為要開發Flinksql,決定要使用HiveCatalog的支持,Flink當前最新版本是 . . ,集群Hive的版本是 . . ,而且需要用某個Linux用戶進行代理。 在實際開發中,遇到兩個問題: Hive . . 使用的不是jdbc,而是 MetastoreClient,通過Thrift進行連接,而他不支持HADOOP PROXY USER。 Kerberos認證需要什么配置文件, ...

2021-03-15 15:41 0 321 推薦指數:

查看詳情

Flink系列八】構建實時計算平台——動態加載UDF

前言 本文首發自https://www.cnblogs.com/slankka/ 轉載請注明出處。 本文的主要內容是介紹如何動態加載Flink作業的UDF。 Classloader 加載UDF一定是classLoader做的,而作業啟動的過程中,App ClassLoader的具體實現類 ...

Tue May 11 01:06:00 CST 2021 0 1519
Flink系列零】構建實時計算平台——FlinkSQL 作業菜鳥筆記

前言 因為最近的需求是做FlinkSQL平台,需要在實時計算平台上集成FlinkSQL功能,但目前剛剛有了研究成果,所以有了這篇筆記。 第一步:編寫一個流 這里使用python編寫的一個流,比Java簡潔。 需要注意的是 pip install kakfa-python,不能是 pip ...

Mon May 10 19:56:00 CST 2021 0 267
Flink實時計算

flink計算過程:Source->Transform->Sink 整體設計 消費kafka數據,解析、計算后,分兩路輸出 1 歸檔(HDFS) 2 業務應用(PG) 代碼實現 消費kafka:FlinkKafkaConsumer< ...

Tue Feb 15 22:54:00 CST 2022 0 754
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM