原文:Logstash和Flume-NG Syslog接收小测试

目前在大规模日志处理平台中常见的日志采集器可以采用Logstash或Flume。这两种日志采集器架构设计理念基本相似,都采用采集 过滤处理 输出的方式。下面对这两种采集器Syslog接收性能做个简单测试,供大家参考。 测试过程 基本测试过程是使用 台机器, 台负责发送Syslog数据包,一台采集器。 在采集器上分别安装ELK套件和Apache Flume . . 软件。 Logstash采集配置如 ...

2018-11-01 13:57 1 714 推荐指数:

查看详情

Flume-NG之KafkaChannel

是速度最快,容易配置;缺点是,可靠性最差,因为一旦flume进程挂了内存中还未出来的数据也就没了;   ...

Mon Mar 02 02:40:00 CST 2015 2 6224
Flume-NG源码阅读之FileChannel

  FileChannel是flume一个非常重要的channel组件,非常常用。这个channel非常复杂,涉及的文件更多涉及三个包:org.apache.flume.channel.file、org.apache.flume.channel.file.encryption(加密 ...

Mon May 19 01:59:00 CST 2014 2 3631
Spark Streaming和Flume-NG对接实验

  Spark Streaming是一个新的实时计算的利器,而且还在快速的发展。它将输入流切分成一个个的DStream转换为RDD,从而可以使用Spark来处理。它直接支持多种数据源:Kafka, Flume, Twitter, ZeroMQ , TCP sockets等,有一些可以操作的函数 ...

Fri Jul 25 03:26:00 CST 2014 2 6222
Flume-ng 配置以及简单的例子[转]

一、简单测试配置信息 flume-ng启动agent的命令为: $ bin/flume-ng agent -n $agent_name -c conf -f conf/flume-conf.properties.template 添加如下配置文件 ...

Wed Sep 11 21:55:00 CST 2013 0 7963
Flume-NG源码阅读之SpoolDirectorySource(原创)

  org.apache.flume.source.SpoolDirectorySource是flume的一个常用的source,这个源支持从磁盘中某文件夹获取文件数据。不同于其他异步源,这个源能够避免重启或者发送失败后数据丢失。flume可以监控文件夹,当出现新文件时会读取该文件并获取数据 ...

Sun Apr 13 23:20:00 CST 2014 4 4495
Flume-ng源码解析之Source组件

如果你还没看过Flume-ng源码解析系列中的启动流程、Channel组件和Sink组件,可以点击下面链接: Flume-ng源码解析之启动流程 Flume-ng源码解析之Channel组件 Flume-ng源码解析之Sink组件 在前面三篇文章中我们初步了解了Flume的启动流程 ...

Sun Mar 12 02:44:00 CST 2017 0 1983
Flume-NG源码阅读之HBaseSink

  关于HBase的sink的所有内容均在org.apache.flume.sink.hbase包下。   每个sink包括自己定制的,都extends AbstractSink implements Configurable。   一、首先是configure(Context context ...

Mon May 05 03:01:00 CST 2014 0 2519
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM