原文:Flume-NG中的Channel與Transaction關系(原創)

在sink和source中 不管是內置還是自定義的 ,基本都有如下代碼,這些代碼在sink中的process方法中,而在source中自己不需要去寫,在source中getChannelProcessor .processEventBatch events 方法中會自動創建下面類似的: 那么有些人就要問了 從上述代碼中似乎只需要獲取channel就可以了,因為獲取數據時只需要event chan ...

2014-04-21 22:31 0 2438 推薦指數:

查看詳情

flume-ng源碼閱讀memory-channel(原創)

org.apache.flume.channel.MemoryChannel類是Flume-NG的memory-channel。 private LinkedBlockingDeque<Event> queue;//mem-channel存放數據的地方 private ...

Wed Apr 02 00:30:00 CST 2014 3 2242
flume-ng源碼閱讀RollingFileSink(原創)

org.apache.flume.sink.RollingFileSink 這個類比較簡單。 source的種類有兩種:一種是PollableSource;另外一種是EventDrivenSource。前者“必須有它自己的callback機制,該機制用於捕獲新數據並將數據存儲到通道 ...

Fri Apr 04 00:02:00 CST 2014 2 2143
Flume-NG源碼閱讀之Interceptor(原創)

  有的時候希望通過Flume將讀取的文件再細分存儲,比如講source的數據按照業務類型分開存儲,具體一點比如類似:將sourceweb、wap、media等的內容分開存儲;比如丟棄或修改一些數據。這時可以考慮使用攔截器Interceptor。   flume通過攔截器實現修改和丟棄事件 ...

Tue Apr 15 02:27:00 CST 2014 0 5437
Flume-NG源碼閱讀之SpoolDirectorySource(原創)

  org.apache.flume.source.SpoolDirectorySource是flume的一個常用的source,這個源支持從磁盤某文件夾獲取文件數據。不同於其他異步源,這個源能夠避免重啟或者發送失敗后數據丟失。flume可以監控文件夾,當出現新文件時會讀取該文件並獲取數據 ...

Sun Apr 13 23:20:00 CST 2014 4 4495
Flume-NG之KafkaChannel

是速度最快,容易配置;缺點是,可靠性最差,因為一旦flume進程掛了內存還未出來的數據也就沒了;   ...

Mon Mar 02 02:40:00 CST 2015 2 6224
Flume-NG啟動過程源碼分析(一)(原創)

  從bin/flume 這個shell腳本可以看到Flume的起始於org.apache.flume.node.Application類,這是flume的main函數所在。   main方法首先會先解析shell命令,如果指定的配置文件不存在就甩出異常。   根據命令中含有 ...

Thu Apr 17 03:09:00 CST 2014 3 3017
Flume-NG啟動過程源碼分析(三)(原創)

  上一篇文章分析了Flume如何加載配置文件的,動態加載也只是重復運行getConfiguration()。   本篇分析加載配置文件后各個組件是如何運行的?   加載完配置文件訂閱者Application類會收到訂閱信息執行 ...

Wed Apr 30 01:26:00 CST 2014 1 2140
Flume-NG源碼閱讀之FileChannel

  FileChannel是flume一個非常重要的channel組件,非常常用。這個channel非常復雜,涉及的文件更多涉及三個包:org.apache.flume.channel.file、org.apache.flume.channel.file.encryption(加密 ...

Mon May 19 01:59:00 CST 2014 2 3631
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM