原文:美团点评基于 Flink 的实时数仓建设实践

引言 近些年,企业对数据服务实时化服务需求日益增多。本文整理了常见实时数据组件的性能特点和适用场景,介绍了美团如何通过 Flink 引擎构建实时数据仓库,从而提供高效 稳健的实时数据服务。此前我们美团技术博客发布过一篇文章 流计算框架 Flink 与 Storm 的性能对比 ,对 Flink 和 Storm 两个引擎的计算性能进行了比较。本文主要阐述使用 Flink 在实际数据生产上的经验。 实时 ...

2021-09-27 15:15 0 118 推荐指数:

查看详情

点评基于 Flink实时数建设实践

引言 近些年,企业对数据服务实时化服务的需求日益增多。本文整理了常见实时数据组件的性能特点和适用场景,介绍了如何通过 Flink 引擎构建实时数据仓库,从而提供高效、稳健的实时数据服务。此前我们技术博客发布过一篇文章《流计算框架 Flink 与 Storm 的性能对比》,对 Flink ...

Fri Oct 19 18:45:00 CST 2018 2 16971
点评基于 Flink实时数平台实践

一、点评实时计算演进 点评实时计算演进历程 在 2016 年,点评就已经基于 Storm 实时计算引擎实现了初步的平台化。2017 年初,我们引入了 Spark Streaming 用于特定场景的支持,主要是在数据同步场景方面的尝试。在 2017 年底,点评实时计算平台引入 ...

Mon Jan 06 22:35:00 CST 2020 1 2736
网易云音乐基于 Flink + Kafka 的实时数建设实践

简介:本文由网易云音乐实时计算平台研发工程师岳猛分享,主要从以下四个部分将为大家介绍 Flink + Kafka 在网易云音乐的应用实战: 背景 Flink + Kafka 平台化设计 Kafka 在实时数中的应用 问题 & 改进 直播回放 ...

Sat Oct 31 19:48:00 CST 2020 1 520
如何建设实时数

1 为什么要建设实时数 在开始说如何建设实时数之前,我们先说一下建设实时数的目的,实时数解决了什么问题。 其实在很多情况下,我们对于实时数的定位可能是没有那么准确的。我们都知道,传统数一个非常重要的功能是用于记录历史,而实时数恰恰相反,它更重视处理当前的状态。 因此,我们创建 ...

Fri Sep 24 05:24:00 CST 2021 0 172
外卖实时数方案整理

实时数以端到端低延迟、SQL标准化、快速响应变化、数据统一为目标。外卖数据智能组总结的最佳实践是:一个通用的实时生产平台跟一个通用交互式实时分析引擎相互配合,同时满足实时和准实时业务场景。两者合理分工,互相补充,形成易开发、易维护且效率高的流水线,兼顾开发效率与生产成本,以较好的投入产出 ...

Fri Mar 18 17:22:00 CST 2022 0 789
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM