原文:Hudi on Flink在顺丰的实践应用

获取PDF版本 请关注 实时流式计算 后台回复 flink ...

2020-10-15 10:16 0 495 推荐指数:

查看详情

科技 Hudi on Flink 实时数仓实践

​简介: 介绍了顺科技数仓的架构,趟过的一些问题、使用 Hudi 来优化整个 job 状态的实践细节,以及未来的一些规划。 本文作者为刘杰,介绍了顺科技数仓的架构,趟过的一些问题、使用 Hudi 来优化整个 job 状态的实践细节,以及未来的一些规划。主要内容为: 数仓架构 ...

Tue Oct 12 18:47:00 CST 2021 0 113
基于Apache Hudi + Flink的亿级数据入湖实践

本次分享分为5个部分介绍Apache Hudi应用实践 实时数据落地需求演进 基于Spark+Hudi的实时数据落地应用实践 基于Flink自定义实时数据落地实践 基于Flink+Hudi应用实践 后续应用规划及展望 1. 实时数据落地需求演进 实时平台 ...

Sun Jan 09 14:10:00 CST 2022 0 746
基于 Flink CDC + Hudi 湖仓一体方案实践

一、Flink-CDC 2.0 Flink CDC Connectors 是 Apache Flink 的一个 source 端的连接器,目前 2.0 版本支持从 MySQL 以及 Postgres 两种数据源中获取数据,2.1 版本社区确定会支持 Oracle,MongoDB 数据源 ...

Tue Nov 16 23:43:00 CST 2021 0 828
Flink 在 58 同城的应用实践

​简介: 58 同城的实时 SQL 建设以及如何从 Storm 迁移至 Flink。 本文整理自 58 同城实时计算平台负责人冯海涛在 Flink Forward Asia 2020 分享的议题《Flink 在 58 同城应用实践》,内容包括: 实时计算平台架构 实时 ...

Thu Sep 16 19:57:00 CST 2021 0 126
Flink SQL 写 hudi

# Flink SQL 写 hudi 最近在做一个数据湖项目,基于 Hudi 的湖仓一体项目,计算引擎是 Flink + Spark 之前稍稍研究了一下数据湖的三个主要技术组件 IceBerg,以为可能会用,在网上看资料的时候,同样也发现,IceBerg 对 Flink 比较亲和,Hudi ...

Mon Jul 19 16:17:00 CST 2021 0 735
37 手游基于 Flink CDC + Hudi 湖仓一体方案实践

​简介: 介绍了 37 手游为何选择 Flink 作为计算引擎,并如何基于 Flink CDC + Hudi 构建新的湖仓一体方案。 本文作者是 37 手游大数据开发徐润柏,介绍了 37 手游为何选择 Flink 作为计算引擎,并如何基于 Flink CDC + Hudi 构建新的湖仓一体 ...

Fri Sep 24 18:51:00 CST 2021 0 158
Apache Hudi与Apache Flink集成

感谢王祥虎@wangxianghu 投稿 Apache Hudi是由Uber开发并开源的数据湖框架,它于2019年1月进入Apache孵化器孵化,次年5月份顺利毕业晋升为Apache顶级项目。是当前最为热门的数据湖框架之一。 1. 为何要解耦 Hudi自诞生至今一直使用Spark ...

Tue Oct 13 17:53:00 CST 2020 0 3450
Hudi-集成Flink(Flink操作hudi表)

一、安装部署Flink 1.12 Apache Flink是一个框架和分布式处理引擎,用于对无界和有界数据流进行有状态计算。Flink被设计在所有常见的集群环境中运行,以内存执行速度和任意规模来执行计算。 1.准备tar包 ...

Wed Mar 09 06:22:00 CST 2022 0 1408
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM