Job的划分
1、Application :
應用,創建一個SparkContext可以認為創建了一個Application
2、Job
在一個app中每執行一次行動算子 就會創建一個Job,一個application會有多個job
3、stage
階段,每碰到一個shuffle算子,會產生一個新的stage,一個Job中可以包含多個stage
4、task
任務,表示階段執行的時候的並行度,一個stage會有多個task
Job的划分
1、Application :
應用,創建一個SparkContext可以認為創建了一個Application
2、Job
在一個app中每執行一次行動算子 就會創建一個Job,一個application會有多個job
3、stage
階段,每碰到一個shuffle算子,會產生一個新的stage,一個Job中可以包含多個stage
4、task
任務,表示階段執行的時候的並行度,一個stage會有多個task
本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。