一、圖 1.1　基本概念 圖是由頂點集合(vertex)及頂點間的關系集合（邊edge）組成的一種數據結構。 這里的圖並非指代數中的圖。圖可以對事物以及事物之間的關系建模，圖可以用來表示自然發生 ...

一、官網介紹 1、什么是Spark 官網地址：http://spark.apache.org/ Apache Spark™是用於大規模數據處理的統一分析引擎。 從右側最后一條新聞看，Spark也用於AI人工智能 spark是一個實現快速通用的集群計算平台。它是由加州大學 ...

一、RDD的概述 1.1　什么是RDD？ RDD（Resilient Distributed Dataset）叫做彈性分布式數據集，是Spark中最基本的數據抽象，它代表一個不可變、可分區、里面的元素可並行計算的集合。RDD具有數據流模型的特點：自動容錯、位置感知性調度和可伸縮性。RDD允許 ...

Transformation算子 基本的初始化 java scala 一、map、flatMap、mapParations、mapPartitionsWithInd ...

一、Spark中的基本概念 （1）Application：表示你的應用程序 （2）Driver：表示main()函數，創建SparkContext。由SparkContext負責與ClusterManager通信，進行資源的申請，任務的分配和監控等。程序執行完畢后關閉SparkContext ...

一、分區的概念 　　分區是RDD內部並行計算的一個計算單元，RDD的數據集在邏輯上被划分為多個分片，每一個分片稱為分區，分區的格式決定了並行計算的粒度，而每個分區的數值計算都是在一個任務中進行的，因此任務的個數，也是由RDD(准確來說是作業最后一個RDD)的分區數決定。 二、為什么要進行分區 ...

RDD是彈性分布式數據集，通常RDD很大，會被分成多個分區，保存在不同節點上。 那么分區有什么好處呢？ 分區能減少節點之間的通信開銷，正確的分區能大大加快程序的執行速度。 我們看個例子 首先我們要了解一個概念，分區並不等同於分塊。 分塊是我們把全部數據切分成好多塊來存儲叫做分塊 ...

一、JDK的安裝 JDK使用root用戶安裝 1.1　上傳安裝包並解壓 1.2　配置環境變量 1.3　驗證Java版本 二、配置配 ...