Spark的Job的划分


Job的划分

1、Application :

  应用,创建一个SparkContext可以认为创建了一个Application

2、Job

  在一个app中每执行一次行动算子 就会创建一个Job,一个application会有多个job

3、stage

  阶段,每碰到一个shuffle算子,会产生一个新的stage,一个Job中可以包含多个stage

4、task

  任务,表示阶段执行的时候的并行度,一个stage会有多个task


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM