原文:網易雲音樂基於 Flink + Kafka 的實時數倉建設實踐

簡介:本文由網易雲音樂實時計算平台研發工程師岳猛分享,主要從以下四個部分將為大家介紹 Flink Kafka 在網易雲音樂的應用實戰: 背景 Flink Kafka 平台化設計 Kafka 在實時數倉中的應用 問題 amp 改進 直播回放:https: developer.aliyun.com live 一 背景介紹 一 流平台通用框架目前流平台通用的架構一般來說包括消息隊列 計算引擎和存儲三部分 ...

2020-10-31 11:48 1 520 推薦指數:

查看詳情

美團點評基於 Flink實時數建設實踐

引言 近些年,企業對數據服務實時化服務需求日益增多。本文整理了常見實時數據組件的性能特點和適用場景,介紹了美團如何通過 Flink 引擎構建實時數據倉庫,從而提供高效、穩健的實時數據服務。此前我們美團技術博客發布過一篇文章《流計算框架 Flink 與 Storm 的性能對比》,對 Flink ...

Mon Sep 27 23:15:00 CST 2021 0 118
美團點評基於 Flink實時數建設實踐

引言 近些年,企業對數據服務實時化服務的需求日益增多。本文整理了常見實時數據組件的性能特點和適用場景,介紹了美團如何通過 Flink 引擎構建實時數據倉庫,從而提供高效、穩健的實時數據服務。此前我們美團技術博客發布過一篇文章《流計算框架 Flink 與 Storm 的性能對比》,對 Flink ...

Fri Oct 19 18:45:00 CST 2018 2 16971
如何建設實時數

1 為什么要建設實時數 在開始說如何建設實時數之前,我們先說一下建設實時數的目的,實時數解決了什么問題。 其實在很多情況下,我們對於實時數的定位可能是沒有那么准確的。我們都知道,傳統數一個非常重要的功能是用於記錄歷史,而實時數恰恰相反,它更重視處理當前的狀態。 因此,我們創建 ...

Fri Sep 24 05:24:00 CST 2021 0 172
基於 Kafka實時數在搜索的實踐應用

一、概述 Apache Kafka 發展至今,已經是一個很成熟的消息隊列組件了,也是大數據生態圈中不可或缺的一員。Apache Kafka 社區非常的活躍,通過社區成員不斷的貢獻代碼和迭代項目,使得 Apache Kafka 功能越發豐富、性能越發穩定,成為企業大數據技術架構解決方案中重要的一環 ...

Mon Feb 28 19:25:00 CST 2022 0 903
快手基於 Flink 構建實時數場景化實踐

簡介: 一文了解快手基於 Flink 構建的實時數架構,以及一些難題的解決方案。 本文整理自快手數據技術專家李天朔在 5 月 22 日北京站 Flink Meetup 分享的議題《快手基於 Flink 構建實時數場景化實踐》,內容包括: 快手實時計算場景 ...

Fri Aug 27 22:24:00 CST 2021 0 177
順豐科技 Hudi on Flink 實時數實踐

​簡介: 介紹了順豐科技數的架構,趟過的一些問題、使用 Hudi 來優化整個 job 狀態的實踐細節,以及未來的一些規划。 本文作者為劉傑,介紹了順豐科技數的架構,趟過的一些問題、使用 Hudi 來優化整個 job 狀態的實踐細節,以及未來的一些規划。主要內容為: 數架構 ...

Tue Oct 12 18:47:00 CST 2021 0 113
 
粵ICP備18138465號   © 2018-2026 CODEPRJ.COM