【Flink系列七】構建實時計算平台——校驗FlinkSQL
前言 FlinkSQL 和常見的SQL一樣，也分為 DDL,DML,DQL,DCL。 本文的主要內容是探討如何利用FlinkAPI 對多行SQL語句進行校驗。 SQL語言共分為四大類：數據查詢語言DQL，數據操縱語言DML，數據定義語言DDL，數據控制語言DCL。 以下是幾個 ...
原文：【Flink系列零】構建實時計算平台——FlinkSQL 作業菜鳥筆記
前言 因為最近的需求是做FlinkSQL平台，需要在實時計算平台上集成FlinkSQL功能，但目前剛剛有了研究成果，所以有了這篇筆記。 第一步：編寫一個流 這里使用python編寫的一個流，比Java簡潔。 需要注意的是 pip install kakfa python，不能是 pip install kafka。 這里生產的集群是SCRAM加密的，所以配置會多一些。 有一個單詞本，words.t ...
2021-05-10 11:56 0 267 推薦指數：
相關推薦
【Flink系列四】構建實時計算平台——Flink SQLClient啟動失敗的問題筆記
問題 報錯 org.apache.flink.table.api.NoMatchingTableFactoryException: Could not find a suitable table factory ...
【Flink系列八】構建實時計算平台——動態加載UDF
前言 本文首發自https://www.cnblogs.com/slankka/ 轉載請注明出處。 本文的主要內容是介紹如何動態加載Flink作業的UDF。 Classloader 加載UDF一定是classLoader做的，而作業啟動的過程中，App ClassLoader的具體實現類 ...
【Flink系列六】構建實時計算平台——Flink 1.10+通過Kerberos連接HiveCatalog
背景 因為要開發Flinksql，決定要使用HiveCatalog的支持，Flink當前最新版本是1.12.2，集群Hive的版本是1.1.0，而且需要用某個Linux用戶進行代理。 在實際開發中，遇到兩個問題： Hive 1.1.0 使用的不是jdbc ...
【Flink系列二】構建實時計算平台——特別篇，用InfluxDb收集Flink Metrics
修改FLINK_CONF 以該配置啟動的Flink作業，Flink會自動將指標寫入Influx ...
【Flink系列一】構建實時計算平台——Flink開啟Checkpoint，以及從Checkpoint恢復
前言 Flink提供了Checkpoint/Savepoint來保存狀態，以便在出錯時進行恢復，在上一個狀態的基礎上恢復計算流程。 問題 1. 如何開啟Checkpoint？ Flink-Checkpointing 2. 如何從Checkpoint恢復？ Checkpoint恢復 ...
【Flink系列三】構建實時計算平台——特別篇，Influxdb Java客戶端訪問指標數據
Influxdb Java客戶端 Influxdb 的Docker版本目前最高是1.8.3. 官方最高版本是2.0. Note: We recommend using the new cli ...
Flink實時計算
flink計算過程：Source->Transform->Sink 整體設計 消費kafka數據，解析、計算后，分兩路輸出 1 歸檔（HDFS） 2 業務應用（PG） 代碼實現 消費kafka：FlinkKafkaConsumer< ...