花費 9 ms
Flume-NG之KafkaChannel

  apache下一個版本(1.6)將會帶來一個新的組件KafKaChannel,顧名思義就是使用kafka做channel,當然在CDH5.3版本已經存在這個channel。   大伙知道,常用的 ...

Mon Mar 02 02:40:00 CST 2015 2 6224
Spark Streaming和Flume-NG對接實驗

  Spark Streaming是一個新的實時計算的利器,而且還在快速的發展。它將輸入流切分成一個個的DStream轉換為RDD,從而可以使用Spark來處理。它直接支持多種數據源:Kafka, F ...

Fri Jul 25 03:26:00 CST 2014 2 6222
Flume-NG源碼閱讀之Interceptor(原創)

  有的時候希望通過Flume將讀取的文件再細分存儲,比如講source的數據按照業務類型分開存儲,具體一點比如類似:將source中web、wap、media等的內容分開存儲;比如丟棄或修改一些數據 ...

Tue Apr 15 02:27:00 CST 2014 0 5437
Flume-NG源碼閱讀之SpoolDirectorySource(原創)

  org.apache.flume.source.SpoolDirectorySource是flume的一個常用的source,這個源支持從磁盤中某文件夾獲取文件數據。不同於其他異步源,這個源能夠避 ...

Sun Apr 13 23:20:00 CST 2014 4 4495
Flume-NG內置計數器(監控)源碼級分析

  Flume的內置監控怎么整?這個問題有很多人問。目前了解到的信息是可以使用Cloudera Manager、Ganglia有圖形的監控工具,以及從瀏覽器獲取json串,或者自定義向其他監控系統匯報 ...

Wed Jul 16 06:11:00 CST 2014 0 4259
Flume-NG源碼閱讀之FileChannel

  FileChannel是flume一個非常重要的channel組件,非常常用。這個channel非常復雜,涉及的文件更多涉及三個包:org.apache.flume.channel.file、or ...

Mon May 19 01:59:00 CST 2014 2 3631
Flume-NG啟動過程源碼分析(一)(原創)

  從bin/flume 這個shell腳本可以看到Flume的起始於org.apache.flume.node.Application類,這是flume的main函數所在。   main方法首先會 ...

Thu Apr 17 03:09:00 CST 2014 3 3017
Flume-NG源碼閱讀之HDFSEventSink

  HDFSEventSink是flume中一個很重要的sink,配置文件中type=hdfs。與此sink相關的類都在org.apache.flume.sink.hdfs包中。   HDFSEve ...

Wed May 07 02:32:00 CST 2014 0 3627

 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM