【原創】大數據基礎之Spark（3）Spark Thrift實現原理及代碼實現
spark 2.1.1 一 啟動命令 啟動spark thrift命令 $SPARK_HOME/sbin/start-thriftserver.sh 然后會執行 org.apache.spark.deploy.SparkSubmit --class ...
原文：【原創】大數據基礎之Spark（5）Shuffle實現原理及代碼解析
一 簡介 Shuffle，簡而言之，就是對數據進行重新分區，其中會涉及大量的網絡io和磁盤io，為什么需要shuffle，以詞頻統計reduceByKey過程為例， serverA：partition : hello, , word, serverB：partition : hello, shuffle之后： serverA：partition : hello, , hello, serverB： ...
2018-12-21 18:54 0 615 推薦指數：
相關推薦
【原創】大數據基礎之SPARK（9）SPARK中COLLECT和TAKE實現原理
spark中要將計算結果取回driver，有兩種方式：collect和take，這兩種方式有什么差別？來看代碼： org.apache.spark.rdd.RDD 可見collect是直接計算所有結果，然后將每個partition的結果變成array，然后再合並成一個array ...
【原創】大數據基礎之Spark（8）Spark中Join實現原理
spark中join有兩種，一種是RDD的join，一種是sql中的join，分別來看： 1 RDD join org.apache.spark.rdd.PairRDDFunctions join操作會返回CoGroupedRDD，CoGroupedRDD構造參數為rdd ...
【原創】大數據基礎之Oozie（1）簡介、源代碼解析
Oozie4.3 一 簡介 1 官網 http://oozie.apache.org/ Apache Oozie Workflow Scheduler for Hadoop ...
【原創】大數據基礎之Azkaban（1）簡介、源代碼解析
Azkaban3.45 一 簡介 1 官網 https://azkaban.github.io/ Azkaban was implemented at LinkedIn to solve th ...
【原創】大數據基礎之Hadoop（1）HA實現原理
有些工作只能在一台server上進行，比如master，這時HA（High Availability）首先要求部署多個server，其次要求多個server自動選舉出一個active狀態server， ...
【原創】大數據基礎之Kudu（4）spark讀寫kudu
spark2.4.3+kudu1.9 1 批量讀 2 批量寫 3 單個讀/條件讀 4 單個寫 其他：newInsert/newUpdate/newDelete/newUpsert 5 錯誤定位 如果apply之后發現修改 ...
【原創】大數據基礎之Hive（5）hive on spark
hive 2.3.4 on spark 2.4.0 Hive on Spark provides Hive with the ability to utilize Apache Spark as its execution engine. set ...