原文:Flink命令行提交job (源碼分析)

這篇文章主要介紹從命令行到任務在Driver端運行的過程 通過flink run 命令提交jar包運行程序 以yarn 模式提交任務命令類似於: flink run m yarn cluster XXX.jar 先來看一下腳本中的調用類 在flink.sh腳本中可以看到提交的命令走到了這樣一個外觀類上,用於提交job解析用戶命令行參數 在其main方法中 先會解析對應需要的flink參數包括fli ...

2020-02-29 10:51 0 3674 推薦指數:

查看詳情

flink:local模式提交job流程分析

1、WordCount程序實例 2、本地監聽9000端口后測試結果 3、job提交流程 4、local模式執行StreamGraph任務 5、流程分析 flink job提交流程個人理解可以大致分為定義和提交兩個環節:以下以WordCount程序為例進行分析 5.1 定義流程 流程定義包含 ...

Fri Nov 20 04:49:00 CST 2020 2 498
FlinkJob啟動Driver端(源碼分析)

整個FlinkJob啟動是通過在Driver端通過用戶的Envirement的execute()方法將用戶的算子轉化成StreamGraph 然后得到JobGraph通過遠程RPC將這個JobGraph提交到JobManager對應的接口 JobManager轉化成 ...

Wed Aug 28 02:04:00 CST 2019 0 527
FlinkJob啟動JobManager端(源碼分析)

通過前面的文章了解到 Driver將用戶代碼轉換成streamGraph再轉換成Jobgraph后向Jobmanager端提交 JobManager啟動以后會在Dispatcher.java起來RPC方法submitJob(jobGraph),用於接收來自Driver轉化得到的JobGraph ...

Thu Aug 29 23:01:00 CST 2019 0 835
FlinkJob啟動TaskManager端(源碼分析)

前面說到了 Flink的TaskManager啟動(源碼分析) 啟動了TaskManager 然后 FlinkJob啟動JobManager端(源碼分析) 說到JobManager會將轉化得到的TDD發送到TaskManager的RPC 這篇主要就講一下,Job ...

Wed Sep 04 02:09:00 CST 2019 0 466
通過命令行提交更新代碼到gitlab上

解決方法: 1.打開命令行的窗口,定位到項目所在的路徑。 2.輸入:git status,敲回車查看代碼是否有更新,有更新的話會出現文件改變的文件名。(紅色的) 3.輸入:git commit -a -m "tag",敲回車,然后你就會看到有幾個文件修改了。(如果寫了-m,那么“”中一 ...

Tue Apr 02 08:10:00 CST 2019 0 1223
git 命令行提交代碼

前提:本地先生成sshkey,將sshkey添加到遠程倉庫 1. win+R 進入命令行,進入項目所在目錄 2 執行 git init,此命令在當前目錄下生成Git可以管理的倉庫,默認是隱藏的 3. git add . 添加所有的文件到緩存區 4. git commit -m ...

Sat Jul 14 20:33:00 CST 2018 0 850
命令行執行jenkins,構建job(可傳遞參數)

背景| 組內做UI測試,需要每天晚上執行一遍jenkins任務,jenkins任務本身是參數化構建的。但是因為jenkins本身的定時執行沒有辦法指定特殊的參數,所以考慮使用命令行方式啟動jenkins 第一步:下載jenkins-cli.jar,查看幫助文檔 不同版本 ...

Fri Sep 29 07:51:00 CST 2017 5 12159
flink 啟動job命令

0. 啟動flink-session ./bin/yarn-session.sh -n 4 -s 3 -jm 2048 -tm 6144 高版本 bin/yarn-session.sh -d -s 3 -jm 2048 -tm 6144 -qu ...

Thu Oct 28 21:54:00 CST 2021 0 1071
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM