引言 近些年,企業對數據服務實時化服務需求日益增多。本文整理了常見實時數據組件的性能特點和適用場景,介紹了美團如何通過 Flink 引擎構建實時數據倉庫,從而提供高效、穩健的實時數據服務。此前我們美團技術博客發布過一篇文章《流計算框架 Flink 與 Storm 的性能對比》,對 Flink ...
一 美團點評實時計算演進 美團點評實時計算演進歷程 在 年,美團點評就已經基於 Storm 實時計算引擎實現了初步的平台化。 年初,我們引入了 Spark Streaming 用於特定場景的支持,主要是在數據同步場景方面的嘗試。在 年底,美團點評實時計算平台引入了 Flink。相比於 Storm 和 Spark Streaming,Flink 在很多方面都具有優勢。這個階段我們進行了深度的平台化, ...
2020-01-06 14:35 1 2736 推薦指數:
引言 近些年,企業對數據服務實時化服務需求日益增多。本文整理了常見實時數據組件的性能特點和適用場景,介紹了美團如何通過 Flink 引擎構建實時數據倉庫,從而提供高效、穩健的實時數據服務。此前我們美團技術博客發布過一篇文章《流計算框架 Flink 與 Storm 的性能對比》,對 Flink ...
引言 近些年,企業對數據服務實時化服務的需求日益增多。本文整理了常見實時數據組件的性能特點和適用場景,介紹了美團如何通過 Flink 引擎構建實時數據倉庫,從而提供高效、穩健的實時數據服務。此前我們美團技術博客發布過一篇文章《流計算框架 Flink 與 Storm 的性能對比》,對 Flink ...
的kappa架構 1.3.3實時數倉的OLAP變體 2.基於Flink實現典型的ETL場景 2.1 ...
實時數倉以端到端低延遲、SQL標准化、快速響應變化、數據統一為目標。美團外賣數據智能組總結的最佳實踐是:一個通用的實時生產平台跟一個通用交互式實時分析引擎相互配合,同時滿足實時和准實時業務場景。兩者合理分工,互相補充,形成易開發、易維護且效率高的流水線,兼顧開發效率與生產成本,以較好的投入產出 ...
簡介: 一文了解快手基於 Flink 構建的實時數倉架構,以及一些難題的解決方案。 本文整理自快手數據技術專家李天朔在 5 月 22 日北京站 Flink Meetup 分享的議題《快手基於 Flink 構建實時數倉場景化實踐》,內容包括: 快手實時計算場景 ...
簡介: 介紹了順豐科技數倉的架構,趟過的一些問題、使用 Hudi 來優化整個 job 狀態的實踐細節,以及未來的一些規划。 本文作者為劉傑,介紹了順豐科技數倉的架構,趟過的一些問題、使用 Hudi 來優化整個 job 狀態的實踐細節,以及未來的一些規划。主要內容為: 數倉架構 ...