flume提供了一個度量框架,可以通過http的方式進行展現,當啟動agent的時候通過傳遞參數 -Dflume.monitoring.type=http參數給flume agent: 這樣flume會在5653端口上啟動一個 ...
Flume本身提供了http, ganglia的監控服務,而我們目前主要使用zabbix做監控。因此,我們為Flume添加了zabbix監控模塊,和sa的監控服務無縫融合。 另一方面,凈化Flume的metrics。只將我們需要的metrics發送給zabbix,避免 zabbix server造成壓力。目前我們最為關心的是Flume能否及時把應用端發送過來的日志寫到Hdfs上, 對應關注的met ...
2014-08-12 09:27 0 7957 推薦指數:
flume提供了一個度量框架,可以通過http的方式進行展現,當啟動agent的時候通過傳遞參數 -Dflume.monitoring.type=http參數給flume agent: 這樣flume會在5653端口上啟動一個 ...
參考 flume的http監控參數說明 普通的flume啟動命令 bin/flume-ng agent -c conf -f conf/flume-conf.properties -n agent -Dflume.root.logger=INFO,console 日志信息 ...
因為Flume是基於Java編寫的,所以已經提供了基於JMX的服務實現,內置了MBean。 唯一需要做的就是啟動JMX服務,使用工具,或寫代碼,向JMX的monitor服務發送請求,獲取其中的MBean。 一、基於JCONSOLE查看MBean 1、在conf/flume.env.sh中進 ...
配置監控 修改flume.env.sh 使用以下腳本 指標項整理 OS監控項 objectName 指標項 說明 java.lang:type=OperatingSystem ...
案例一【監控端口數據】 目標:Flume監控一端Console(控制台),另一端Console發送消息,使被監控端實時顯示。 分步實現: 1.創建Flume Agent配置文件flume-telnet.conf 1)創建自己的配置文件 [root@bigdata111 ...
一、攔截器 1、攔截器: 攔截器主要作用在source和channel之間,用於給event設置header消息頭,如果沒有設置攔截器,則event中只有message。 常見的攔截器 ...
監控某個文件:配制如下 監控某個目錄:配制如下 寫入到HDFS:配制如下 ...
Flume現在使用越來越多,在使用過程中難免發現性能瓶頸或者消息丟失的問題。在遇到這些問題的時候,第一想到的是通過java自帶命令去分析問題和使用一些日志去定位問題。 Flume在處理消息時自帶了很多counter,並可以以JMX、Ganglia、JSON等方式發布出來,在需要的時候,在啟動 ...