原文:flink sql 知其所以然(五)| 自定義 protobuf format

感謝您的關注 點贊 再看,對博主的肯定,會督促博主持續的輸出更多的優質實戰內容 .序篇 本文結構 大數據羊說 用數據提升美好事物發生的概率 篇原創內容 公眾號 protobuf作為目前各大公司中最廣泛使用的高效的協議數據交換格式工具庫,會大量作為流式數據傳輸的序列化方式,所以在 flink sql 中如果能實現protobuf的format會非常有用 目前社區已經有對應的實現,不過目前還沒有 m ...

2021-08-25 21:21 0 100 推薦指數:

查看詳情

其所以然~字典的數據結構

Dictionary和hashtable用法有點相似,他們都是基於鍵值對的數據集合,但實際上他們內部的實現原理有很大的差異, 先簡要概述一下他們主要的區別,稍后在分析Dictionary內部實現的大 ...

Fri Jul 13 00:13:00 CST 2018 1 811
./configure & make & make install 其所以然

最近一直在類unix系統上(Ubuntu和Mac OS)上調研第三方的一些開源庫,要涉及到開源庫的編譯安裝工作,接觸最多的就是./configure & make & make ins ...

Sat Sep 07 01:38:00 CST 2019 0 1130
其所以然~redis的原子性

原子性 原子性是數據庫的事務中的特性。在數據庫事務的情景下,原子性指的是:一個事務(transaction)中的所有操作,要么全部完成,要么全部不完成,不會結束在中間某個環節。 對於Redis而言, ...

Fri Jul 13 00:16:00 CST 2018 0 6594
Flink 源碼 | 自定義 Format 消費 Maxwell CDC 數據

Flink 1.11 最重要的 Feature —— Hive Streaming 之前已經和大家分享過了,今天就和大家來聊一聊另一個特別重要的功能 —— CDC。 CDC概述 何為CDC?Change Data Capture,將數據庫中的’增’、’改’、’刪’操作記錄下來。在很早之前 ...

Wed Sep 09 18:42:00 CST 2020 0 497
Flink 1.10 SQL 自定義KafkaUpsertSink

Flink 1.10 中SQL正式生產,在嘗試使用的時候,遇到了這樣的問題: KafkaTableSink 的 'update-mode' 只支持 ‘append’,如下面這樣: 看起來好像沒問題,因為kafka 也只能往里面寫數據,不能刪數據 官網鏈接:https ...

Wed Apr 08 21:30:00 CST 2020 0 3541
Flink sql kafka source 自定義並行度

本文參考康琪大佬的博客:使Flink SQL Kafka Source支持獨立設置並行度 一直覺得 Flink Sql 需要指定算子並行度的功能,哪怕是基於 SQL 解析出來的算子不能添加並行度,source、sink、join 的算子也應該有修改並行度的功能。 恰好看到大佬的博客 ...

Sat Jan 08 23:44:00 CST 2022 0 3850
自定義Flink1.10 Sql Sink遇到的問題

1.org.apache.flink.table.api.TableException: Table sink does not implement a table schema. 問題:在RedisTableSink中沒有重寫getTableSchema方法 解決:增加 ...

Fri Mar 20 23:22:00 CST 2020 0 2566
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM