Spark Streaming源码分析 – DStream
A Discretized Stream (DStream), the basic abstraction in Spark Streaming, is a continuous sequence of RDDs (of the same type) representing ...
原文：Spark Streaming Backpressure分析
为什么引入Backpressure 默认情况下，Spark Streaming通过Receiver以生产者生产数据的速率接收数据，计算过程中会出现batch processing time gt batch interval的情况，其中batch processing time 为实际计算一个批次花费时间， batch interval为Streaming应用设置的批处理间隔。这意味着Spark ...
2016-04-03 15:39 1 5434 推荐指数：
相关推荐
Spark Streaming源码分析 – Checkpoint
PersistenceStreaming没有做特别的事情，DStream最终还是以其中的每个RDD作为job进行调度的，所以persistence就以RDD为单位按照原先Spark的方式去做就可以了，不同的是Streaming是无限，需要考虑Clear的问题在clearMetadata时，在删除 ...
Spark Streaming源码分析 – InputDStream
对于NetworkInputDStream而言，其实不是真正的流方式，将数据读出来后不是直接去处理，而是先写到blocks中，后面的RDD再从blocks中读取数据继续处理这就是一个将stream离散 ...
spark-streaming-kafka-0-10源码分析
转发请注明原创地址http://www.cnblogs.com/dongxiao-yang/p/7767621.html 本文所研究的spark-streaming代码版本为2.3.0-SNAPSHOT spark-streaming为了匹配0.10以后版本的kafka客户端变化推出 ...
spark streaming (二)
一、基础核心概念 1、StreamingContext详解 （一） 有两种创建StreamingContext的方式： val conf ...
flink spark storm的反压机制（backpressure）
简单介绍下flink、spark和storm的backpressure机制。 1、storm 反压 实现原理 Storm 是通过监控 Bolt 中的接收队列负载情况来实现反压： 如果一个executor发现recv queue负载超过高水位值（high watermark）就会通知反 ...
Apache 流框架 Flink，Spark Streaming，Storm对比分析（一）
本文由 网易云 发布。 1.Flink架构及特性分析 Flink是个相当早的项目，开始于2008年，但只在最近才得到注意。Flink是原生的流处理系统，提供high level的API。Flink也提供 API来像Spark一样进行批处理，但两者处理的基础是完全不同的。Flink ...
Apache 流框架 Flink，Spark Streaming，Storm对比分析（二）
本文由 网易云 发布。 本文内容接上一篇Apache 流框架 Flink，Spark Streaming，Storm对比分析（一） 2.Spark Streaming架构及特性分析 2.1 基本架构 基于是spark core的spark streaming架构 ...