原文:Azkaban 简介(一)

什么是任务调度 大数据平台技术框架支持的开发语言多种多样,开发人员的背景差异也很大,这就产生出很多不同类型的程序 任务 运行在大数据平台之上,如:MapReduce Hive Pig Spark Java Shell Python 等。 这些任务需要不同的运行环境,并且除了定时运行,各种类型之间的任务存在依赖关系,一张简单的任务依赖图如下: 常见任务调度工具 crontab Linux 自带命令, ...

2021-06-23 14:55 0 538 推荐指数:

查看详情

Azkaban 3.73.1 使用简介

本文上接《Azkaban 3.73.1 集群搭建(Multiple Executor)》,对Azkaban的使用做简单说明 目录 目录 简介 1. 登录 2. 创建工程 3. 创建job 3.1 创建 .job 文件 3.2 ...

Wed Jul 10 19:46:00 CST 2019 0 962
Azkaban Flow 2.0 使用简介

本文上接《Azkaban 3.73.1 使用简介》,对Azkaban使用Flow 2.0来创建工作流做简单说明 声明:官方建议使用Flow 2.0来创建Azkaban工作流,且Flow 1.0将被弃用 目录 目录 一、简单的Flow 1. 新建 ...

Thu Jul 11 22:16:00 CST 2019 0 1793
什么是Azkaban?

Azkaban是什么 Azkaban是由Linkedin开源的做批量工作流任务的调度器。在一个工作流内按照特定的顺序运行一组工作和流程。Azkaban定义了一种KV文件格式来建立任务之间的相互依赖关系,并且提供了一个易于使用的web用户界面维护与跟踪你的工作流 ...

Thu Apr 19 05:52:00 CST 2018 0 1325
Azkaban Condition Flow (条件工作流) 使用简介

本文上接《Azkaban Flow 2.0 使用简介》,对Azkaban Condition Flow (条件工作流) 做简单介绍 目录 目录 条件工作流 介绍 作用 使用方式 支持的运算符 支持的预定义宏 一些 ...

Tue Jul 16 00:42:00 CST 2019 0 934
Azkaban(一)Azkaban的基础介绍

一、为什么需要工作流调度器 1、一个完整的数据分析系统通常都是由大量任务单元组成: shell 脚本程序,java 程序,mapreduce 程序、hive 脚本等 2、各任务单元之间存在时间先后 ...

Mon Jul 23 03:01:00 CST 2018 1 1562
Azkaban(三)Azkaban的使用

界面介绍 首页有四个菜单 projects:最重要的部分,创建一个工程,所有flows将在工程中运行。 scheduling:显示定时任务 executing:显示当前运行的任务 ...

Mon Jul 23 05:22:00 CST 2018 0 10920
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM