RDD有兩種類型的操作 ，分別是Transformation（返回一個新的RDD）和Action（返回values）。 1.Transformation：根據已有RDD創建新的RDD數據集build （1）map(func)：對調用map的RDD數據集中的每個element都使用func ...

前言：要學習spark程序開發，建議先學習spark-shell交互式學習，加深對spark程序開發的理解。spark-shell提供了一種學習API的簡單方式，以及一個能夠進行交互式分析數據的強大工具，可以使用scala編寫（scala運行與Java虛擬機可以使用現有的Java庫）或使用 ...

今天打開spark-shell 想試試好久不用的命令，想從本地讀取數據，然后做一個簡單的wordcount。但是就是讀取不成功。代碼如下： 在做累加的時候就報錯了，這里顯示要從HDFS上面去讀取文件， 但是我想從本地讀取文件進行計算。於是找資料，將輸入的文件的加上前綴，則計算成功 ...

1.拷貝hive-site.xml到spark/conf下，拷貝mysql-connector-java-xxx-bin.jar到hive/lib下 2.開啟hive元數據服務：hive --service metastore 3.開啟hadoop服務：sh $HADOOP_HOME ...

數據庫也是 spark 數據源創建 df 的一種方式，因為比較重要，所以單獨算一節。 本文以 postgres 為例 安裝 JDBC 首先需要 安裝 postgres 的客戶端驅動，即 JDBC 驅動，這是官方下載地址，JDBC，根據數據庫版本下載對應的驅動 上傳至 spark 目錄 ...

終於開始看Spark源碼了，先從最常用的spark-shell腳本開始吧。不要覺得一個啟動腳本有什么東東，其實里面還是有很多知識點的。另外，從啟動腳本入手，是尋找代碼入口最簡單的方法，很多開源框架，其實都可以通過這種方式來尋找源碼入口。 先來介紹一下Spark-shell是什么 ...

基礎 Spark的shell作為一個強大的交互式數據分析工具，提供了一個簡單的方式學習API。它可以使用Scala(在Java虛擬機上運行現有的Java庫的一個很好方式)或Python。在Spark目錄里使用下面的方式開始運行： [plain ...

前言 　　離線安裝好CDH、Coudera Manager之后，通過Coudera Manager安裝所有自帶的應用，包括hdfs、hive、yarn、spark、hbase等應用，過程很是波折，此處就不抱怨了，直接進入主題。 描述 　　在安裝有spark的節點上，通過spark-shell ...