Flink實戰(六) - Table API & SQL編程

1 意義

1.1 分層的 APIs & 抽象層次

Flink提供三層API。 每個API在簡潔性和表達性之間提供不同的權衡，並針對不同的用例。

而且Flink提供不同級別的抽象來開發流/批處理應用程序

• 最低級抽象只提供有狀態流。它通過Process Function嵌入到DataStream API中。它允許用戶自由處理來自一個或多個流的事件，並使用一致的容錯狀態。此外，用戶可以注冊事件時間和處理時間回調，允許程序實現復雜的計算。
• 實際上，大多數應用程序不需要上述低級抽象，而是針對Core API編程， 如DataStream API（有界/無界流）和DataSet API （有界數據集）。這些流暢的API提供了用於數據處理的通用構建塊，例如各種形式的用戶指定的轉換，連接，聚合，窗口，狀態等。在這些API中處理的數據類型在相應的編程語言中表示為類。
  低級Process Function與DataStream API集成，因此只能對某些 算子操作進行低級抽象。該數據集API提供的有限數據集的其他原語，如循環/迭代。
• 該 Table API 是為中心的聲明性DSL 表，其可被動態地改變的表（表示流時）。該 Table API遵循（擴展）關系模型：表有一個模式連接（類似於在關系數據庫中的表）和API提供可比的 算子操作，如選擇，項目，連接，分組依據，聚合等 Table API程序以聲明方式定義應該執行的邏輯 算子操作，而不是准確指定 算子操作代碼的外觀。雖然 Table API可以通過各種類型的用戶定義函數進行擴展，但它的表現力不如Core API，但使用更簡潔（編寫的代碼更少）。此外， Table API程序還會通過優化程序，在執行之前應用優化規則。
  可以在表和DataStream / DataSet之間無縫轉換，允許程序混合 Table API以及DataStream 和DataSet API。
• Flink提供的最高級抽象是SQL。這種抽象在語義和表達方面類似於 Table API，但是將程序表示為SQL查詢表達式。在SQL抽象與 Table API緊密地相互作用，和SQL查詢可以通過定義表來執行 Table API。1.2 模型類比MapReduce ==> Hive SQL
  Spark ==> Spark SQL
  Flink ==> SQL

2 總覽

2.1 簡介

Apache Flink具有兩個關系型API

• Table API
• SQL

用於統一流和批處理

Table API是Scala和Java語言集成查詢API，可以非常直觀的方式組合來自關系算子的查詢(e.g. 選擇，過濾和連接).

Flink的SQL支持基於實現SQL標准的Apache Calcite。無論輸入是批輸入（DataSet）還是流輸入（DataStream），任一接口中指定的查詢都具有相同的語義並指定相同的結果。

Table API和SQL接口彼此緊密集成，就如Flink的DataStream和DataSet API。我們可以輕松地在基於API構建的所有API和庫之間切換。例如，可以使用CEP庫從DataStream中提取模式，然后使用 Table API分析模式，或者可以在預處理上運行Gelly圖算法之前使用SQL查詢掃描，過濾和聚合批處理表數據。

Table API和SQL尚未完成並且正在積極開發中。並非 Table API，SQL和stream，batch輸入的每種組合都支持所有算子操作

2.2 依賴結構

所有Table API和SQL組件都捆綁在flink-table Maven工件中。

以下依賴項與大多數項目相關：

• flink-table-common
  通過自定義函數，格式等擴展表生態系統的通用模塊。
• flink-table-api-java
  使用Java編程語言的純表程序的表和SQL API（在早期開發階段，不推薦！）。
• flink-table-api-scala
  使用Scala編程語言的純表程序的表和SQL API（在早期開發階段，不推薦！）。
• flink-table-api-java-bridge
  使用Java編程語言支持DataStream / DataSet API的Table＆SQL API。
• flink-table-api-scala-bridge
  使用Scala編程語言支持DataStream / DataSet API的Table＆SQL API。
• flink-table-planner
  表程序規划器和運行時。
• flink-table-uber
  將上述模塊打包成大多數Table＆SQL API用例的發行版。 uber JAR文件flink-table * .jar位於Flink版本的/ opt目錄中，如果需要可以移動到/ lib。

2.3 項目依賴

必須將以下依賴項添加到項目中才能使用Table API和SQL來定義管道：

<dependency>
  <groupId>org.apache.flink</groupId>
  <artifactId>flink-table-planner_2.11</artifactId>
  <version>1.8.0</version>
</dependency>

此外，根據目標編程語言，您需要添加Java或Scala API。

<!-- Either... -->
<dependency>
  <groupId>org.apache.flink</groupId>
  <artifactId>flink-table-api-java-bridge_2.11</artifactId>
  <version>1.8.0</version>
</dependency>
<!-- or... -->
<dependency>
  <groupId>org.apache.flink</groupId>
  <artifactId>flink-table-api-scala-bridge_2.11</artifactId>
  <version>1.8.0</version>
</dependency>

在內部，表生態系統的一部分是在Scala中實現的。 因此，請確保為批處理和流應用程序添加以下依賴項：

<dependency>
  <groupId>org.apache.flink</groupId>
  <artifactId>flink-streaming-scala_2.11</artifactId>
  <version>1.8.0</version>
</dependency>

2.4 擴展依賴

如果要實現與Kafka或一組用戶定義函數交互的自定義格式，以下依賴關系就足夠了，可用於SQL客戶端的JAR文件：

<dependency>
  <groupId>org.apache.flink</groupId>
  <artifactId>flink-table-common</artifactId>
  <version>1.8.0</version>
</dependency>

目前，該模塊包括以下擴展點：

• SerializationSchemaFactory
• DeserializationSchemaFactory
• ScalarFunction
• TableFunction
• AggregateFunction

3 概念和通用API

Table API和SQL集成在一個聯合API中。此API的核心概念是Table用作查詢的輸入和輸出。本文檔顯示了具有 Table API和SQL查詢的程序的常見結構，如何注冊Table，如何查詢Table以及如何發出Table。

3.1 Table API和SQL程序的結構

批處理和流式傳輸的所有 Table API和SQL程序都遵循相同的模式。以下代碼示例顯示了 Table API和SQL程序的常見結構。

// 對於批處理程序，使用ExecutionEnvironment而不是StreamExecutionEnvironment
StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

// 創建一個TableEnvironment
// 對於批處理程序使用BatchTableEnvironment而不是StreamTableEnvironment
StreamTableEnvironment tableEnv = StreamTableEnvironment.create(env);

// 注冊一個 Table
tableEnv.registerTable("table1", ...)            // 或者
tableEnv.registerTableSource("table2", ...);     // 或者
tableEnv.registerExternalCatalog("extCat", ...);
// 注冊一個輸出 Table
tableEnv.registerTableSink("outputTable", ...);

/ 從 Table API query 創建一個Table
Table tapiResult = tableEnv.scan("table1").select(...);
// 從 SQL query 創建一個Table
Table sqlResult  = tableEnv.sqlQuery("SELECT ... FROM table2 ... ");

// 將表API結果表發送到TableSink，對於SQL結果也是如此
tapiResult.insertInto("outputTable");

// 執行
env.execute();

3.2 將DataStream或DataSet轉換為表

它也可以直接轉換為a 而不是注冊a DataStream或DataSetin 。如果要在 Table API查詢中使用Table，這很方便。TableEnvironmentTable

// 獲取StreamTableEnvironment
//在BatchTableEnvironment中注冊DataSet是等效的
StreamTableEnvironment tableEnv = StreamTableEnvironment.create(env);

DataStream<Tuple2<Long, String>> stream = ...

// 將DataStream轉換為默認字段為“f0”，“f1”的表
Table table1 = tableEnv.fromDataStream(stream);

// 將DataStream轉換為包含字段“myLong”，“myString”的表
Table table2 = tableEnv.fromDataStream(stream, "myLong, myString");

• sale.csv文件
  
• Scala
  
• Java
  

還不完善,等日后Flink該模塊開發完畢再深入研究!

參考

Table API & SQL