Spark學習之路 （三）Spark之RDD
一、RDD的概述 1.1 什么是RDD？ RDD（Resilient Distributed Dataset）叫做彈性分布式數據集，是Spark中最基本的數據抽象，它代表一個不可變、可分區、里面的元素可並行計算的集合。RDD具有數據流模型的特點：自動容錯、位置感知性調度和可伸縮性。RDD允許 ...
原文：Spark學習之路 （一）Spark初識
一 官網介紹 什么是Spark 官網地址：http: spark.apache.org Apache Spark 是用於大規模數據處理的統一分析引擎。 從右側最后一條新聞看，Spark也用於AI人工智能 spark是一個實現快速通用的集群計算平台。它是由加州大學伯克利分校AMP實驗室 開發的通用內存並行計算框架，用來構建大型的 低延遲的數據分析應用程序。它擴展了廣泛使用的MapReduce計算 模 ...
2018-04-19 21:24 3 157741 推薦指數：
相關推薦
Spark學習之路 （六）Spark Transformation和Action
Transformation算子 基本的初始化 java scala 一、map、flatMap、mapParations、mapPartitionsWithInd ...
Spark學習之路 （十七）Spark分區
一、分區的概念 分區是RDD內部並行計算的一個計算單元，RDD的數據集在邏輯上被划分為多個分片，每一個分片稱為分區，分區的格式決定了並行計算的粒度，而每個分區的數值計算都是在一個任務中進行的，因 ...
Spark學習之路 （七）Spark 運行流程
一、Spark中的基本概念 （1）Application：表示你的應用程序 （2）Driver：表示main()函數，創建SparkContext。由SparkContext負責與ClusterManager通信，進行資源的申請，任務的分配和監控等。程序執行完畢后關閉SparkContext ...
Spark學習之路 （五）Spark偽分布式安裝
一、JDK的安裝 JDK使用root用戶安裝 1.1 上傳安裝包並解壓 1.2 配置環境變量 1.3 驗證Java版本 二、配置配 ...
Spark學習之路 （十一）SparkCore的調優之Spark內存模型
摘抄自：https://www.ibm.com/developerworks/cn/analytics/library/ba-cn-apache-spark-memory-management/index.html 一、概述 Spark 作為一個基於內存的分布式計算引擎，其內存管理模塊在整個 ...
Spark學習之路 （四）Spark的廣播變量和累加器
一、概述 在spark程序中，當一個傳遞給Spark操作(例如map和reduce)的函數在遠程節點上面運行時，Spark操作實際上操作的是這個函數所用變量的一個獨立副本。這些變量會被復制到每台機器上，並且這些變量在遠程機器上的所有更新都不會傳遞回驅動程序。通常跨任務的讀寫變量是低效 ...
Spark學習之路 （十八）SparkSQL簡單使用
一、SparkSQL的進化之路 1.0以前： Shark 1.1.x開始： SparkSQL(只是測試性的) SQL 1.3.x: SparkSQL(正式版本)+Dataframe 1.5.x: SparkSQL 鎢絲計划 1.6.x ...