原文:大数据技术之_19_Spark学习_04_Spark Streaming 应用解析 + Spark Streaming 概述、运行、解析 + DStream 的输入、转换、输出 + 优化

第 章 Spark Streaming 概述 . 什么是 Spark Streaming . 为什么要学习 Spark Streaming . Spark 与 Storm 的对比第 章 运行 Spark Streaming第 章 架构与抽象第 章 Spark Streaming 解析 . 初始化 StreamingContext . 什么是 DStreams . DStream 的输入 . . ...

2019-04-29 18:42 0 520 推荐指数:

查看详情

大数据技术之_19_Spark学习_05_Spark GraphX 应用解析小结

========== Spark GraphX 概述 ==========1、Spark GraphX是什么?  (1)Spark GraphX 是 Spark 的一个模块,主要用于进行以图为核心的计算还有分布式图的计算。  (2)GraphX 他的底层计算也是 RDD 计算,它和 RDD ...

Wed May 01 03:48:00 CST 2019 0 517
大数据技术之_19_Spark学习_06_Spark 源码解析 + Spark 通信架构、脚本解析、standalone 模式启动、提交流程 + Spark Shuffle 过程 + Spark 内存管理与分配 + Spark 部署模式

第1章 Spark 整体概述1.1 整体概念1.2 RDD 抽象1.3 计算抽象1.4 集群模式1.5 RPC 网络通信抽象1.6 启动 Standalone 集群1.7 核心组件1.8 核心组件交互流程1.9 Block 管理1.10整体应用第2章 Spark 通信架构2.1 通信组件概览 ...

Fri May 03 04:12:00 CST 2019 0 797
大数据技术之_19_Spark学习_07_Spark 性能调优 + 数据倾斜调优 + 运行资源调优 + 程序开发调优 + Shuffle 调优 + GC 调优 + Spark 企业应用案例

第1章 Spark 性能优化1.1 调优基本原则1.1.1 基本概念和原则1.1.2 性能监控方式1.1.3 调优要点1.2 数据倾斜优化1.2.1 为何要处理数据倾斜(Data Skew)1.2.2 如何定位导致数据倾斜的代码1.2.3 如何缓解/消除数据倾斜1.3 运行资源调优1.3.1 ...

Sat May 04 19:57:00 CST 2019 0 605
Spark Streaming运行流程及源码解析(一)

本系列主要描述Spark Streaming运行流程,然后对每个流程的源码分别进行解析 之前总听同事说Spark源码有多么棒,咱也不知道,就是疯狂点头。今天也来撸一下Spark源码。 对Spark的使用也就是Spark Streaming使用的多一点,所以就拿Spark ...

Tue Feb 18 18:50:00 CST 2020 0 785
Spark Streaming源码分析 – DStream

A Discretized Stream (DStream), the basic abstraction in Spark Streaming, is a continuous sequence of RDDs (of the same type) representing ...

Fri Mar 07 02:15:00 CST 2014 0 2549
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM