Kafka監控系統Kafka Eagle：支持kerberos認證

在線文檔：https://ke.smartloli.org/

作者博客：https://www.cnblogs.com/smartloli/p/9371904.html

源碼地址：https://github.com/smartloli/kafka-eagle

源碼編譯：直接提供的腳本./build.sh或者直接執行腳本里面的命令mvn clean && mvn package -DskipTests

編譯結果：kafka-eagle\kafka-eagle-web\target\kafka-eagle-web-1.2.8-bin.tar.gz

 

安裝jdk，配置JAVA_HOME、KE_HOME(即kafka-eagle路徑)。

配置system-config.properties

######################################

# multi zookeeper&kafka cluster list

######################################

kafka.eagle.zk.cluster.alias=cluster1#,cluster2

cluster1.zk.list=tdn1:2181,tdn2:2181,tdn3:2181

#cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181

 

######################################

# zk client thread limit

######################################

kafka.zk.limit.size=25

 

######################################

# kafka eagle webui port

######################################

kafka.eagle.webui.port=8048

 

######################################

# kafka offset storage

######################################

cluster1.kafka.eagle.offset.storage=kafka

#cluster2.kafka.eagle.offset.storage=zk

 

######################################

# enable kafka metrics

######################################

kafka.eagle.metrics.charts=true

kafka.eagle.sql.fix.error=true

 

######################################

# kafka sql topic records max

######################################

kafka.eagle.sql.topic.records.max=5000

 

######################################

# alarm email configure

######################################

kafka.eagle.mail.enable=false

kafka.eagle.mail.sa=alert_sa

kafka.eagle.mail.username=[e-mail]

kafka.eagle.mail.password=mqslimczkdqabbbh

kafka.eagle.mail.server.host=smtp.163.com

kafka.eagle.mail.server.port=25

 

######################################

# alarm im configure

######################################

#kafka.eagle.im.dingding.enable=true

#kafka.eagle.im.dingding.url=https://oapi.dingtalk.com/robot/send?access_token=

 

#kafka.eagle.im.wechat.enable=true

#kafka.eagle.im.wechat.url=https://qyapi.weixin.qq.com/cgi-bin/message/send?access_token=

#kafka.eagle.im.wechat.touser=

#kafka.eagle.im.wechat.toparty=

#kafka.eagle.im.wechat.totag=

#kafka.eagle.im.wechat.agentid=

 

######################################

# delete kafka topic token

######################################

kafka.eagle.topic.token=keadmin

 

######################################

# kafka sasl authenticate

######################################

kafka.eagle.sasl.enable=true

kafka.eagle.sasl.protocol=SASL_PLAINTEXT

kafka.eagle.sasl.mechanism=GSSAPI

 

######################################

# kafka jdbc driver address

######################################

kafka.eagle.driver=org.sqlite.JDBC

kafka.eagle.url=jdbc:sqlite:/kafka-eagle/db/ke.db

kafka.eagle.username=root

kafka.eagle.password=root

配置kafka_client_jaas.conf

KafkaClient {

        com.sun.security.auth.module.Krb5LoginModule required

        useKeyTab=true

        storeKey=true

        keyTab="/etc/security/keytabs/kafka_client.keytab"

        principal="[e-mail]";

    };

 

或者（確保本地有票據緩存 klist -l可查看）

KafkaClient {

        com.sun.security.auth.module.Krb5LoginModule required

        useTicketCache=true

        renewTicket=true

        serviceName="kafka";

};

 

 

Kafka系統默認是沒有開啟JMX端口的，所以Kafka Eagle的監控趨勢圖默認采用不啟用的方式，即kafka.eagle.metrics.charts=false。如果需要查看監控趨勢圖，需要開啟Kafka系統的JMX端口，設置該端口在$KAFKA_HOME/bin/kafka-server-start.sh腳本中，設置內容如下：

 

vi kafka-server-start.sh

 

if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then

    export KAFKA_HEAP_OPTS="-server -Xms2G -Xmx2G -XX:PermSize=128m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=5 -XX:InitiatingHeapOccupancyPercent=70"

    export JMX_PORT="9999"

    #export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"

fi

 

 

需要注意的時，這里的端口不一定非要設置成9999，端口只有可用，均可。Kafka Eagle系統會自動獲取這個JMX端口，采集結果如下：

 

 

創建數據庫

sqlite3 /kafka-eagle/db/ke.db

http://www.runoob.com/sqlite/sqlite-create-database.html

 

chmod +x ke.sh

./ke.sh start