Flume-NG之KafkaChannel
是速度最快，容易配置；缺點是，可靠性最差，因為一旦flume進程掛了內存中還未出來的數據也就沒了； ...
原文：Flume-ng 配置以及簡單的例子[轉]
一 簡單測試配置信息 flume ng啟動agent的命令為： bin flume ng agent n agent name c conf f conf flume conf.properties.template 添加如下配置文件 avro log.conf avro log.conf: A single node Flume configuration excute next command ...
2013-09-11 13:55 0 7963 推薦指數：
相關推薦
Flume-NG一些注意事項（轉）
原文鏈接：記Flume-NG一些注意事項 這里只考慮flume本身的一些東西，對於JVM、HDFS、HBase等得暫不涉及。。。。 一、關於Source： 1、spool-source：適合靜態文件，即文件本身不是動態變化的； 2、avro source可以適當提高線程數量來提高 ...
Flume-ng高可用集群負載安裝與配置
1. 寫在前面 flume-ng高可用長在大數據處理環節第一個出現，對於處理日志文件有很好的作用，本篇博客將詳細介紹flume-ng的高可用負載均衡搭建 2. flume-ng高可用負載均衡描述 在一般情況下，Flume-ng高可用采用server和client模式，client主要負責 ...
Flume-NG源碼閱讀之FileChannel
FileChannel是flume一個非常重要的channel組件，非常常用。這個channel非常復雜，涉及的文件更多涉及三個包：org.apache.flume.channel.file、org.apache.flume.channel.file.encryption(加密 ...
Spark Streaming和Flume-NG對接實驗
Spark Streaming是一個新的實時計算的利器，而且還在快速的發展。它將輸入流切分成一個個的DStream轉換為RDD，從而可以使用Spark來處理。它直接支持多種數據源：Kafka, Flume, Twitter, ZeroMQ , TCP sockets等，有一些可以操作的函數 ...
Flume-ng源碼解析之Source組件
如果你還沒看過Flume-ng源碼解析系列中的啟動流程、Channel組件和Sink組件，可以點擊下面鏈接： Flume-ng源碼解析之啟動流程 Flume-ng源碼解析之Channel組件 Flume-ng源碼解析之Sink組件 在前面三篇文章中我們初步了解了Flume的啟動流程 ...
Flume-NG源碼閱讀之HBaseSink
關於HBase的sink的所有內容均在org.apache.flume.sink.hbase包下。 每個sink包括自己定制的，都extends AbstractSink implements Configurable。 一、首先是configure(Context context ...
Flume-NG源碼閱讀之HDFSEventSink
HDFSEventSink是flume中一個很重要的sink，配置文件中type=hdfs。與此sink相關的類都在org.apache.flume.sink.hdfs包中。 HDFSEventSink算是一個比較復雜的sink，包下涉及的源代碼文件數多達13個。。。可配置的參數 ...