数据来源：系统中可以采集到的数据，如用户数据、业务数据等，也包含系统运行时产生的日志数据等。 数据采集：不同数据源生成数据类型格式存在差异，在数据采集前可能增加数据总线(如京东JBus)对业务进行解耦，Sqoop和Flume是常用的数据采集工具 ...

大数据也是构建各类系统的时候一种全新的思维，以及架构理念，比如Storm，Hive，Spark，ZooKeeper，HBase，Elasticsearch，等等 storm，在做热数据这块，如果要做复杂的热数据的统计和分析，亿流量，高并发的场景下，最合适的技术就是storm，没有其他 举例说明 ...

一. 1、对比：离线计算和实时计算 离线计算：MapReduce，批量处理（Sqoop-->HDFS--> MR ---> HDFS） 实时计算：Storm和Spark Sparking，数据实时性（Flume ---> Kafka ---> 流式计算 ---> ...

一、Storm编程模型 Topology：Storm中运行的一个实时应用程序的名称。（拓扑） Spout：在一个topology中获取源数据流的组件。 　　通常情况下spout会从外部数据源中读取数据，然后转换为topology内部的源数据 ...

基于 Flink 1.9 讲解的专栏，涉及入门、概念、原理、实战、性能调优、系统案例的讲解。 专栏介绍 扫码下面专栏二维码可以订阅该专栏 首发地址：http://www.54tianzhisheng.cn/2019/11/15/flink-in-action/ 专栏地址：https ...

前言 在上一篇文章 你公司到底需不需要引入实时计算引擎？ 中我讲解了日常中常见的实时需求，然后分析了这些需求的实现方式，接着对比了实时计算和离线计算。随着这些年大数据的飞速发展，也出现了不少计算的框架（Hadoop、Storm、Spark、Flink）。在网上有人将大数据计算引擎的发展分为四个 ...

摘要 纯 .Net 自研大数据实时计算平台，在中通快递服务数百亿包裹，处理数据万亿计！将分享大数据如何落地以及设计思路，技术重难点。 目录 背景介绍 计算平台架构 项目实战 背景介绍 计算平台架构 分片实时计算 计算平台 数据 ...

​ 本文分为四个章节介绍实时计算，第一节介绍实时计算出现的原因及概念；第二节介绍实时计算的应用场景；第三节介绍实时计算常见的架构；第四节是实时数仓解决方案。 一、实时计算 实时计算一般都是针对海量数据进行的，并且要求为秒级。由于大数据兴起之初，Hadoop并没有给出实时计算解决方案 ...