azkaban3.x安裝


一、下載azkaban

官網:https://azkaban.github.io/downloads.html

GitHub下載地址:https://github.com/azkaban/azkaban

下載:
[root@salt ~]# git clone https://github.com/azkaban/azkaban.git


二、安裝

1、構建

我這里沒有用git下載,是直接下載的壓縮包,不過都問題不大;

1、編譯成tar包(如果不是第一次構建需要先clean,執行:./gradlew clean)
[root@salt azkaban]# cd /opt/azkaban/azkaban-3.81.0/
[root@salt azkaban]# vim azkaban-common/src/main/java/azkaban/jobExecutor/ProcessJob.java

將final boolean isExecuteAsUser = this.sysProps.getBoolean(EXECUTE_AS_USER, true);  里面的true修改為false


[root@salt azkaban-3.81.0]# ./gradlew distTar      #最后會顯示:BUILD SUCCESSFUL


2、把相應的tar包復制出來
[root@salt azkaban-3.81.0]# mkdir /usr/local/src/azkaban

[root@salt azkaban-3.81.0]# cp azkaban-db/build/distributions/azkaban-db-0.1.0-SNAPSHOT.tar.gz /usr/local/src/azkaban/packages

[root@salt azkaban-3.81.0]# cp azkaban-exec-server/build/distributions/azkaban-exec-server-0.1.0-SNAPSHOT.tar.gz /usr/local/src/azkaban/packages

[root@salt azkaban-3.81.0]# cp azkaban-solo-server/build/distributions/azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz /usr/local/src/azkaban/packages

[root@salt azkaban-3.81.0]# cp azkaban-hadoop-security-plugin/build/distributions/azkaban-hadoop-security-plugin-0.1.0-SNAPSHOT.tar.gz /usr/local/src/azkaban/packages

[root@salt azkaban-3.81.0]# cp azkaban-web-server/build/distributions/azkaban-web-server-0.1.0-SNAPSHOT.tar.gz /usr/local/src/azkaban/packages

3、解壓tar包
[root@salt azkaban-3.81.0]# cd /usr/local/src/azkaban/

[root@saltstack azkaban]# tar zxf packages/azkaban-web-server-0.1.0-SNAPSHOT.tar.gz -C .

[root@saltstack azkaban]# tar zxf packages/azkaban-exec-server-0.1.0-SNAPSHOT.tar.gz -C .

[root@saltstack azkaban]# tar zxf packages/azkaban-db-0.1.0-SNAPSHOT.tar.gz -C .

[root@saltstack azkaban]# tar zxf packages/azkaban-hadoop-security-plugin-0.1.0-SNAPSHOT.tar.gz -C .

[root@saltstack azkaban]# tar zxf packages/azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz -C .

[root@saltstack azkaban]# ls
azkaban-db-0.1.0-SNAPSHOT
azkaban-hadoop-security-plugin-0.1.0-SNAPSHOT
azkaban-web-server-0.1.0-SNAPSHOT
azkaban-exec-server-0.1.0-SNAPSHOT
azkaban-solo-server-0.1.0-SNAPSHOT
packages


2、創建數據庫及導入數據結構

這里使用的mysql:
mysql> CREATE DATABASE azkaban;

mysql> use azkaban;

mysql> source /usr/local/src/azkaban/azkaban-db-0.1.0-SNAPSHOT/create-all-sql-0.1.0-SNAPSHOT.sql

mysql> show tables;
+-----------------------------+
| Tables_in_azkaban           |
+-----------------------------+
| QRTZ_BLOB_TRIGGERS          |
| QRTZ_CALENDARS              |
| QRTZ_CRON_TRIGGERS          |
| QRTZ_FIRED_TRIGGERS         |
| QRTZ_JOB_DETAILS            |
| QRTZ_LOCKS                  |
      ......


三、配置keystore

[root@salt azkaban]# cd azkaban-web-server-0.1.0-SNAPSHOT/

[root@salt azkaban-web-server-0.1.0-SNAPSHOT]# keytool -keystore keystore -alias jetty -genkey -keyalg RSA
輸入密鑰庫口令:      #123456
再次輸入新口令:      #123456
您的名字與姓氏是什么?      #直接回車
  [Unknown]:  
您的組織單位名稱是什么?    #直接回車
  [Unknown]:  
您的組織名稱是什么?        #直接回車
  [Unknown]:  
您所在的城市或區域名稱是什么?      #直接回車
  [Unknown]:  
您所在的省/市/自治區名稱是什么?    #直接回車
  [Unknown]:  
該單位的雙字母國家/地區代碼是什么?       #輸入 CN
  [Unknown]:  CN
CN=Unknown, OU=Unknown, O=Unknown, L=Unknown, ST=Unknown, C=CN是否正確?
  [否]:  Y                     #輸入 Y

輸入 <jetty> 的密鑰口令
    (如果和密鑰庫口令相同, 按回車):      #直接回車

Warning:
JKS 密鑰庫使用專用格式。建議使用 "keytool -importkeystore -srckeystore keystore -destkeystore keystore -deststoretype pkcs12" 遷移到行業標准格式 PKCS12。

-----------
完成上述工作后,將在當前目錄生成 keystore 證書文件,將keystore 考貝到 azkaban web服務器根目錄中,由於我目前在web server目錄中,就不用復制了;
[root@salt azkaban-web-server-0.1.0-SNAPSHOT]# ls
bin  conf  keystore  lib  web


四、配置文件

1、配置每個服務器節點時區

[root@node1 ~]# ll /etc/localtime
lrwxrwxrwx. 1 root root 35 11月 14 17:06 /etc/localtime -> ../usr/share/zoneinfo/Asia/Shanghai

[root@node2 ~]# ll /etc/localtime
lrwxrwxrwx. 1 root root 35 11月 14 17:06 /etc/localtime -> ../usr/share/zoneinfo/Asia/Shanghai

[root@node3 bin]# ll /etc/localtime
lrwxrwxrwx. 1 root root 35 11月 14 17:06 /etc/localtime -> ../usr/share/zoneinfo/Asia/Shanghai

可見我的已經指向對的;

如果不對,可以(在每個節點)執行以下命令:
cp /usr/share/zoneinfo/Asia/Shanghai  /etc/localtime


2、azkaban web服務器配置

azkaban.properties (路徑寫絕對路徑)

# Azkaban Personalization Settings
azkaban.name=test
azkaban.label=test
azkaban.color=#FF3601
azkaban.default.servlet.path=/index
web.resource.dir=/usr/local/src/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/web/
default.timezone.id=Asia/Shanghai

# Azkaban UserManager class
user.manager.class=azkaban.user.XmlUserManager
user.manager.xml.file=/usr/local/src/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/conf/azkaban-users.xml

# Loader for projects
executor.global.properties=/usr/local/src/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/conf/global.properties
azkaban.project.dir=projects

# Velocity dev mode
velocity.dev.mode=false

# Azkaban Jetty server properties.
jetty.maxThreads=25
jetty.port=8081
jetty.ssl.port=8443
jetty.keystore=/usr/local/src/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/keystore
jetty.password=123456
jetty.keypassword=123456
jetty.truststore=/usr/local/src/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/keystore
jetty.trustpassword=123456

# Project Manager settings
#project.temp.dir=/temp
#project.version.retention=3

# Azkaban Executor settings
executor.port=12321

# mail settings
mail.sender=
mail.host=
job.failure.email=
job.success.email=

lockdown.create.projects=false
cache.directory=cache

# JMX stats
jetty.connector.stats=true
executor.connector.stats=true

# Azkaban plugin settings
azkaban.jobtype.plugin.dir=/usr/local/src/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/plugins/jobtypes

# Azkaban mysql settings by default. Users should configure their own username and password.
database.type=mysql
mysql.port=3306
mysql.host=172.16.0.109
mysql.database=azkaban
mysql.user=root
mysql.password=123456
mysql.numconnections=100

#Multiple Executor
azkaban.use.multiple.executors=true
azkaban.executorselector.filters=StaticRemainingFlowSize,MinimumFreeMemory,CpuStatus
azkaban.executorselector.comparator.NumberOfAssignedFlowComparator=1
azkaban.executorselector.comparator.Memory=1


log4j.properties

log4j.rootLogger=INFO, Console
log4j.logger.azkaban=INFO, server
log4j.appender.server=org.apache.log4j.RollingFileAppender
log4j.appender.server.layout=org.apache.log4j.PatternLayout
log4j.appender.server.File=logs/azkaban-webserver.log
log4j.appender.server.layout.ConversionPattern=%d{yyyy/MM/dd HH:mm:ss.SSS Z} %p [%c{1}] [Azkaban] %m%n
log4j.appender.server.MaxFileSize=102400MB
log4j.appender.server.MaxBackupIndex=2
log4j.appender.Console=org.apache.log4j.ConsoleAppender
log4j.appender.Console.layout=org.apache.log4j.PatternLayout
log4j.appender.Console.layout.ConversionPattern=%d{yyyy/MM/dd HH:mm:ss.SSS Z} %p [%c{1}] [Azkaban] %m%n


azkaban-users.xml

增加 管理員用戶 admin

<azkaban-users>
    <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
    <user username="metrics" password="metrics" roles="metrics"/>
    <user username="admin" password="123456" roles="admin,metrics" />
    
    <role name="admin" permissions="ADMIN" />
    <role name="metrics" permissions="METRICS"/>
</azkaban-users>


cp -a azkaban-solo-server-0.1.0-SNAPSHOT/plugins azkaban-web-server-0.1.0-SNAPSHOT/


3、azkaban 執行服務器(executor)配置

azkaban.properties

# Azkaban Personalization Settings
default.timezone.id=Asia/Shanghai

# Azkaban UserManager class
# Loader for projects
executor.global.properties=/usr/local/src/azkaban/azkaban-exec-server-0.1.0-SNAPSHOT/conf/global.properties
azkaban.project.dir=projects
# Velocity dev mode
velocity.dev.mode=false
# Azkaban Jetty server properties.

# mail settings
lockdown.create.projects=false
cache.directory=cache

# JMX stats
jetty.connector.stats=true
executor.connector.stats=true

# Azkaban Executor settings
executor.maxThreads=50
executor.flow.threads=30

# 這里添加一個端口配置
executor.port=12321
azkaban.execution.dir=executions

# Azkaban plugin settings
azkaban.jobtype.plugin.dir=/usr/local/src/azkaban/azkaban-exec-server-0.1.0-SNAPSHOT/plugins/jobtypes
# Azkaban mysql settings by default. Users should configure their own username and password.
database.type=mysql
mysql.port=3306
mysql.host=172.16.0.109
mysql.database=azkaban
mysql.user=root
mysql.password=123456
mysql.numconnections=100


log4j.properties

同上


五、啟動

啟動azkaban-exec-server

xxx/bin/azkaban-exec-start.sh


啟動azkaban-web-server

xxx/bin/azkaban-web-start.sh


jps


瀏覽器中:https://ip:8443


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM