【原創】大數據基礎之Spark（1）Spark Submit即Spark任務提交過程
Spark2.1.1 一 Spark Submit本地解析 1.1 現象 提交命令： spark-submit --master local[10] --driver-memory 30g --class app.package.AppClass app-1.0.jar 進程 ...
原文：【原創】大數據基礎之Spark（7）spark讀取文件split過程（即RDD分區數量）
spark . . spark初始化rdd的時候，需要讀取文件，通常是hdfs文件，在讀文件的時候可以指定最小partition數量，這里只是建議的數量，實際可能比這個要大 比如文件特別多或者特別大時 ，也可能比這個要小 比如文件只有一個而且很小時 ，如果沒有指定最小partition數量，初始化完成的rdd默認有多少個partition是怎樣決定的呢 以SparkContext.textfile ...
2018-12-28 20:55 0 4784 推薦指數：
相關推薦
Spark快速大數據分析之RDD基礎
Spark 中的RDD 就是一個不可變的分布式對象集合。每個RDD 都被分為多個分區，這些分區運行在集群中的不同節點上。RDD 可以包含Python、Java、Scala中任意類型的對象，甚至可以包含用戶自定義的對象。 用戶可以使用兩種方法創建RDD：讀取一個外部數據集，或在 ...
【原創】大數據基礎之Kudu（4）spark讀寫kudu
spark2.4.3+kudu1.9 1 批量讀 2 批量寫 3 單個讀/條件讀 4 單個寫 其他：newInsert/newUpdate/newDelete/newUpsert 5 錯誤定位 如果apply之后發現修改 ...
【原創】大數據基礎之Hive（5）hive on spark
hive 2.3.4 on spark 2.4.0 Hive on Spark provides Hive with the ability to utilize Apache Spark as its execution engine. set ...
【原創】大數據基礎之Spark（2）Spark on Yarn：container memory allocation容器內存分配
spark 2.1.1 最近spark任務（spark on yarn）有一個報錯 Diagnostics: Container [pid=5901,containerID=container_1542879939729_30802_01_000001] is running ...
【原創】大數據基礎之SPARK（9）SPARK中COLLECT和TAKE實現原理
spark中要將計算結果取回driver，有兩種方式：collect和take，這兩種方式有什么差別？來看代碼： org.apache.spark.rdd.RDD 可見collect是直接計算所有結果，然后將每個partition的結果變成array，然后再合並成一個array ...
【原創】大數據基礎之Spark（3）Spark Thrift實現原理及代碼實現
spark 2.1.1 一 啟動命令 啟動spark thrift命令 $SPARK_HOME/sbin/start-thriftserver.sh 然后會執行 org.apache.spark.deploy.SparkSubmit --class ...
【原創】大數據基礎之Spark（8）Spark中Join實現原理
spark中join有兩種，一種是RDD的join，一種是sql中的join，分別來看： 1 RDD join org.apache.spark.rdd.PairRDDFunctions join操作會返回CoGroupedRDD，CoGroupedRDD構造參數為rdd ...