一、打包问题clean之后直接package可能出现
The program's entry point class 'com.atguigu.wcBase.Workcount' was not found in the jar file.
需要在clean之后build,再package
error:org.apache.flink.client.program.ProgramInvocationException: Job failed java.net.ConnectException: Connection refused
原因:9999端口被占,重启下nc -lk 9999
二、standalone模式(这不是重点)
启动Flink集群 start-cluster
前提打开nc -lk 9999
提交job
flink run -c com.atguigu.wcBase.StreamWorkcount /opt/module/flink-1.11.3/learning-1.0-SNAPSHOT.jar --host localhost --port 9999
查看job
flink list
取消job
flink cancel jobId
三、提交到yarn集群模式
这里面又分三种模式:
1.会话模式,先启动会话
yarn-session.sh -n 2 -s 2 -jm 1024 -tm 1024 -nm test -d
-n(--container):TaskManager 的数量。
-s(--slots): 每个 TaskManager 的 slot 数量,默认一个 slot 一个 core,默认每个
taskmanager 的 slot 的个数为 1,有时可以多一些 taskmanager,做冗余。
-jm:JobManager 的内存(单位 MB)。
-tm:每个 taskmanager 的内存(单位 MB)。
-nm:yarn 的 appName(现在 yarn 的 ui 上的名字)。
-d:后台执行。
提交任务:
flink run -c com.atguigu.wcBase.StreamWorkcount /opt/module/flink-1.11.3/learning-1.0-SNAPSHOT.jar --host hadoop101 --port 9999
查看任务情况
http://hadoop102:8088/cluster
2.应用模式,不用启动会话,直接提交任务到集群
flink run-application -t yarn-application ./examples/streaming/TopSpeedWindowing.jar
3.单任务提交模式,不用启动会话,任务与任务之间资源不共享
flink run -t yarn-per-job --detached -c com.gui.wc.StreamWordCountApp flinkTotu-1.0-SNAPSHOT.jar
yarn控制台查看任务情况
http://hadoop102:8088/cluster