原文:大數據技術之_19_Spark學習_06_Spark 源碼解析 + Spark 通信架構、腳本解析、standalone 模式啟動、提交流程 + Spark Shuffle 過程 + Spark 內存管理與分配 + Spark 部署模式

第 章 Spark 整體概述 . 整體概念 . RDD 抽象 . 計算抽象 . 集群模式 . RPC 網絡通信抽象 . 啟動 Standalone 集群 . 核心組件 . 核心組件交互流程 . Block 管理 . 整體應用第 章 Spark 通信架構 . 通信組件概覽 . Endpoint 啟動過程 . Endpoint Send amp Ask 流程 . Endpoint Receive 流 ...

2019-05-02 20:12 0 797 推薦指數:

查看詳情

Spark Standalone 提交模式

一.Client提交模式   提交命令:     ./spark-submit --master spark://node1:7077 --class org.apache.spark.examples.SparkPi ../lib ...

Mon Mar 11 06:46:00 CST 2019 0 577
大數據技術之_19_Spark學習_07_Spark 性能調優 + 數據傾斜調優 + 運行資源調優 + 程序開發調優 + Shuffle 調優 + GC 調優 + Spark 企業應用案例

第1章 Spark 性能優化1.1 調優基本原則1.1.1 基本概念和原則1.1.2 性能監控方式1.1.3 調優要點1.2 數據傾斜優化1.2.1 為何要處理數據傾斜(Data Skew)1.2.2 如何定位導致數據傾斜的代碼1.2.3 如何緩解/消除數據傾斜1.3 運行資源調優1.3.1 ...

Sat May 04 19:57:00 CST 2019 0 605
Spark學習筆記(三)—— Standalone模式

上篇筆記記錄了Local模式的一些內容,但是實際的應用中很少有使用Local模式的,只是為了我們方便學習和測試。真實的生產環境中,Standalone模式更加合適一點。 1、基礎概述 Standalone不是單機模式,它是集群,但是是基於Spark獨立調度器的集群,也就是說它是Spark特有 ...

Fri Jan 10 22:00:00 CST 2020 0 276
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM