...

一、背景 每天上百亿的日志数据实时查询是个挑战，在架构设计上采用了Kafka + Flink + Clickhouse+Redash，实现海量数据的实时分析。计算层，我们开发了基于Flink计算引擎的实时数据平台，简化开发流程，数据通过配置化实现动态Schema生成，底层数据解析统一 ...

...

一、背景 每天上百亿的日志数据实时查询是个挑战，在架构设计上采用了Kafka + Flink + Clickhouse+Redash，实现海量数据的实时分析。计算层，我们开发了基于Flink计算引擎的实时数据平台，简化开发流程，数据通过配置化实现动态Schema生成，底层数据解析统一，无需重复造 ...

CDC概念 CDC全称是Change data Cpature，即变更数据捕获，主要面向数据库的变更，是数据库领域非常常见的技术，主要用于捕获数据库的一些变更，然后可以把变更数据发送到下游。 CDC类型 1.基于查询的，客户端会通过SQL方式 ...

知识点： 1、依赖 2、处理类 3、binlog结果 4、如果需要将数据进行etl，解析数据，然后自定义实现sink 5、测试代码 ...

1.项目背景 1.1 MaxWell 介绍 Maxwell是一个守护进程，它能监听并读取MySQL的binlog，然后解析输出为json，支持将数据输出到Kafka、Kinesis或其他流媒体平台，支持库和表的过滤。 地址：https://github.com/zendesk/maxwell ...

flink写入clickhouse之单表写入 简介 flink有一个标准的jdbc sink，提供批量，定时的提交方法。 参考flink文档：https://nightlies.apache.org/flink/flink-docs-release-1.13/zh/docs ...