原文:Flink集成Iceberg簡介

. 概述 Apache Iceberg is an open table format for huge analytic datasets. Iceberg adds tables to Presto and Spark that use a high performance format that works just like a SQL table. 官方的定義,iceberg是一種表格 ...

2021-03-17 14:48 0 4443 推薦指數:

查看詳情

Flink集成Iceberg

Flink: 1.11.0 Iceberg: 0.11.1 hive: 2.3.8 hadoop: 3.2.2 java: 1.8 scala: 2.11 一、下載或編譯iceberg-flink-runtime jar包 下載 ...

Wed May 12 19:02:00 CST 2021 0 427
Flink 讀寫 iceberg

iceberg 0.11 發布的時候稍微嘗試了一下,發現實際並沒有說的那么厲害,很多功能其實還在開發中(比如: upsert) 貼段之前寫的 flink sql: 注: 貌似沒有 hive catalog,只能放在 hadoop 上面,不支持 upsert iceberg master ...

Wed Jan 05 18:31:00 CST 2022 0 4566
網易:Flink + Iceberg 數據湖探索與實踐

導讀:今天主要和大家交流的是網易在數據湖 Iceberg 的一些思考與實踐。從網易在數據倉庫建設中遇到的痛點出發,介紹對數據湖 Iceberg 的探索以及實踐之路。 主要內容包括: 數據倉庫平台建設的痛點 數據湖 Iceberg 的核心原理 數據湖 Iceberg ...

Wed Oct 28 18:28:00 CST 2020 0 679
Flink 如何實時分析 Iceberg 數據湖的 CDC 數據

簡介: 數據湖的架構中,CDC 數據實時讀寫的方案和原理 本文由李勁松、胡爭分享,社區志願者楊偉海、李培殿整理。主要介紹在數據湖的架構中,CDC 數據實時讀寫的方案和原理。文章主要分為 4 個部分內容: 常見的 CDC 分析方案 為何選擇 Flink + Iceberg ...

Fri Feb 26 17:29:00 CST 2021 0 529
一、Flink簡介

這幾年,在整個大數據領域,Flink可算是火得一塌糊,不但將阿里Blink中的大部分特性merge到社區的Flink中,使得Flink在流式實時計算領域更是一騎絕塵,讓其他實時計算框架只能望其項背,目前Flink根本經看不到其他的對手!同時Flink新版本又完美的兼容Hive,使得Flink在離線 ...

Sat Jan 22 00:00:00 CST 2022 0 937
Flink簡介

目錄 特點 Use Case Flink (最新 1.10 版本) vs Spark (最新 2.4.5) 架構 運行模式 Layered APIs & Component Stack DataStream 例子 DataSet 例子 ...

Sun Jun 28 01:31:00 CST 2020 0 553
Flink(一)Flink的入門簡介

一. Flink的引入 這幾年大數據的飛速發展,出現了很多熱門的開源社區,其中著名的有 Hadoop、Storm,以及后來的 Spark,他們都有着各自專注的應用場景。Spark 掀開了內存計算的先河,也以內存為賭注,贏得了內存計算的飛速發展。Spark 的火熱或多或少的掩蓋 ...

Tue Oct 09 03:09:00 CST 2018 1 63920
汽車之家:基於 Flink + Iceberg 的湖倉一體架構實踐

簡介: 由汽車之家實時計算平台負責人邸星星在 4 月 17 日上海站 Meetup 分享的,基於 Flink + Iceberg 的湖倉一體架構實踐。 內容簡要: 一、數據倉庫架構升級的背景 二、基於 Iceberg 的湖倉一體架構實踐 三、總結與收益 ...

Thu Jun 10 18:03:00 CST 2021 0 174
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM