系统架构设计 在对调度系统架构说明之前，我们先来认识一下调度系统常用的名词 1.名词解释 DAG： 全称Directed Acyclic Graph，简称DAG。工作流中的Task任务以有向无环 ...

DataX 是一个异构数据源离线同步工具，致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。 具体 ...

联童科技是一家智能化母婴童产业平台，从事母婴童行业以及互联网技术多年，拥有丰富的母婴门店运营和系统开发经验，在会员经营和商品经营方面，能够围绕会员需求，深入场景，更贴近合作伙伴和消费者，提供最优服务产 ...

一、简述 Apache DolphinScheduler是一个分布式去中心化，易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。有如下特性： 高可靠性 去中心化的多Master和多Worker, 自身支持HA功能 ...

先简单总结下MasterServier服务的启动流程： 初始化netty服务器，并启动 通过zookeeper客户端Curator创建一个znode临时节点 /dolphinscheduler/nodes/master/<ip>:<port>，如果主机 ...

项目结构 模块 dolphinscheduler-ui 前端页面模块 dolphinscheduler-server 核心模块。包括master/worker等功能 dolphinscheduler-common 公共模块。公共方法或类 ...

一、incubator-dolphinscheduler 中如何获取shell类型的节点或者python类型的节点任务的日志 1、在org.apache.dolphinscheduler.server.worker.task.AbstractCommandExecutor 类中 ...

一、prometheus和grafana 简介 Prometheus 是继 Kubernetes 之后的第二个 CNCF “毕业” 项目，其监控理念传承于由谷歌研发的一款内部监控软件，现主要开发语言 ...

今天继续分析海豚调度的源码 上回分析的是dolphinscheduler-service模块zookeeper相关的代码 这回分析是dolphinscheduler-server模块zookeeper相关的代码 ZkMasterClient master服务zk客户端类 类继承的关系 ...

dolphin 1.6已经增加了企业微信的功能。 公司用的钉钉，那么增加功能到钉钉指定分组，可以针对分组将错误的任务或者被杀死的任务进行提示。 alert模块，增加配置： 增加配置 ...