Spark的Job的划分


Job的划分

1、Application :

  應用,創建一個SparkContext可以認為創建了一個Application

2、Job

  在一個app中每執行一次行動算子 就會創建一個Job,一個application會有多個job

3、stage

  階段,每碰到一個shuffle算子,會產生一個新的stage,一個Job中可以包含多個stage

4、task

  任務,表示階段執行的時候的並行度,一個stage會有多個task


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM