原文:從 Airflow 到 Apache DolphinScheduler,有贊大數據開發平台的調度系統演進

點擊上方藍字關注我們 作者 宋哲琦 編 者 按 在不久前的 Apache DolphinScheduler Meetup 上,有贊大數據開發平台負責人宋哲琦帶來了平台調度系統從 Airflow 遷移到 Apache DolphinScheduler 的方案設計思考和生產環境實踐。 這位來自浙江杭州的 后年輕人自 年 月加入有贊,在這里從事數據開發平台 調度系統和數據同步組件的研發工作。剛入職時, ...

2021-12-09 18:30 0 860 推薦指數:

查看詳情

從0到1搭建大數據平台調度系統

目前大數據平台經常會用來跑一些批任務,跑批處理當然就離不開定時任務。比如定時抽取業務數據庫的數據,定時跑hive/spark任務,定時推送日報、月報指標數據。任務調度系統已經儼然成為了大數據處理平台不可或缺的一部分。 一、原始任務調度 記得第一次參與大數據平台從無到有的搭建,最 ...

Tue Aug 04 21:56:00 CST 2020 0 786
聯童科技基於incubator-dolphinscheduler從0到1構建大數據調度平台之路

聯童科技是一家智能化母嬰童產業平台,從事母嬰童行業以及互聯網技術多年,擁有豐富的母嬰門店運營和系統開發經驗,在會員經營和商品經營方面,能夠圍繞會員需求,深入場景,更貼近合作伙伴和消費者,提供最優服務產品,公司致力於以技術來驅動母嬰童產業的發展,公司也希望借助於大數據為客戶提供更多智能數據 ...

Sat Feb 20 19:16:00 CST 2021 1 983
紫金大數據平台架構之路(一)----大數據任務開發調度平台架構設計

一、總體設計 初來公司時,公司還沒有大數據,我是作為大數據架構師招入的,結合公司的線上和線下業務,制定了如下的大數據架構路線圖。 二、大數據任務開發調度平台架構設計 在設計完總體架構后,並且搭建完hadoop/yarn的大數據底層計算平台后, 按照總體架構設計思路, 首先需要構建 ...

Tue Apr 14 01:13:00 CST 2020 0 2122
大數據調度系統學習

功能分析 內置參數 概述 為什么需要一個復雜的工作量調度器? 1、一個完整的數據分析系統通 ...

Wed Nov 10 23:43:00 CST 2021 0 113
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM