数据接收并行度调优（一） 通过网络接收数据时（比如Kafka、Flume），会将数据反序列化，并存储在Spark的内存中。如果数据接收称为系统的瓶颈，那么可以考虑并行化数据接收。 每一个输入DStream都会在某个Worker的Executor上启动一个Receiver ...

调优 Spark Streaming集成Kafka时，当数据量较小时默认配置一般都能满足我们的需要，但是当数据量大的时候，就需要进行一定的调整和优化。 合理的批处理时间（batchDuration） 几乎所有的Spark Streaming调优文档都会提及批处理时间的调整 ...

原文链接：Spark Streaming性能调优详解 　Spark Streaming提供了高效便捷的流式处理模式，但是在有些场景下，使用默认的配置达不到最优，甚至无法实时处理来自外部的数据，这时候我们就需要对默认的配置进行相关的修改。由于现实中场景和数据量不一样，所以我们无法设置一些通用的配置 ...

作者从容错、性能等方面优化了长时间运行在yarn上的spark-Streaming作业 对于长时间运行的Spark Streaming作业，一旦提交到YARN群集便需要永久运行，直到有意停止。任何中断都会引起严重的处理延迟，并可能导致数据丢失或重复。YARN和Apache Spark ...

Spark 调优 返回原文英文原文：Tuning Spark Because of the in-memory nature of most Spark computations, Spark programs can be bottlenecked by any ...

本文翻译之cloudera的博客，本系列有两篇，第二篇看心情了 概论 当我们理解了 transformation,action和rdd后，我们就可以写一些基础的spark的应用了，但是如果需要对应用进行调优就需要了解spark的底层执行模型，理解job,stage,task等概念 ...

1、spark汇聚失败 出错原因，hive默认配置中parquet和动态分区设置太小 2.hive数据入hbase报错 出现报错原因： executor_memory和dirver_memory太小，在增大内存后还会出现连接超时的报错 解决连接超时 ...

的Jvm堆内存的情况 当给spark任务分配的内存少了，会频繁发生minor gc(年轻代gc)，如果 ...