开源日志系统比较：scribe、chukwa、kafka、flume
1. 背景介绍 许多公司的平台每天会产生大量的日志（一般为流式数据，如，搜索引擎的pv，查询等），处理这些日志需要特定的日志系统，一般而言，这些系统需要具有以下特征： （1） 构建应用系统和分析系统的桥梁，并将它们之间的关联解耦； （2） 支持近实时的在线分析系统和类似于Hadoop ...
原文：开源日志系统比较：scribe、chukwa、kafka、flume
. 背景介绍 许多公司的平台每天会产生大量的日志 一般为流式数据，如，搜索引擎的pv，查询等 ，处理这些日志需要特定的日志系统，一般而言，这些系统需要具有以下特征： 构建应用系统和分析系统的桥梁，并将它们之间的关联解耦 支持近实时的在线分析系统和类似于Hadoop之类的离线分析系统 具有高可扩展性。即：当数据量增加时，可以通过增加节点进行水平扩展。 本文从设计架构，负载均衡，可扩展性和容错性等方 ...
2014-06-19 15:56 1 5327 推荐指数：
相关推荐
开源数据采集组件比较: scribe、chukwa、kafka、flume
，可扩展性和容错性等方面对开源的个关组件进行说明 FaceBook的Scribe Scr ...
大型开源日志系统比较
1. 背景介绍 许多公司的平台每天会产生大量的日志（一般为流式数据，如，搜索引擎的pv，查询等），处理这些日志需要特定的日志系统，一般而言，这些系统需要具有以下特征： （1） 构建应用系统和分析系统的桥梁，并将它们之间的关联解耦； （2） 支持近实时的在线分析系统和类似于Hadoop ...
flume使用场景 flume与kafka的比较
Is Flume a good fit for your problem? If you need to ingest textual log data into Hadoop/HDFS then Flume is the right fit for your problem, full ...
Flume -- 开源分布式日志收集系统
Flume是Cloudera提供的一个高可用的、高可靠的开源分布式海量日志收集系统，日志数据可以经过Flume流向需要存储终端目的地。这里的日志是一个统称，泛指文件、操作记录等许多数据。 一、Flume基础知识 1、数据流模型 Flume的核心是把数据从数据源收集过来，再送到 ...
Flume - Kafka日志平台整合
1. Flume介绍 Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。 agent agent ...
消息系统Flume与Kafka的区别
首先Flume和Kafka都是消息系统，但是它俩也有着很多不同的地方，Flume更趋向于消息采集系统，而Kafka更趋向于消息缓存系统。 【一】设计上的不同 Flume是消息采集系统，它主要解决问题是消息的多元采集。因此Flume在实现上提供了多达十几种的Flume Source，以供 ...
Scribe日志收集工具
Scribe日志收集工具 概述 Scribe是facebook开源的日志收集系统，在facebook内部已经得到大量的应用。它能够从各种日志源上收集日志，存储到一个中央存储系统（可以是NFS，分布式文件系统等）上，以便于进行集中统计分析处理。它为日志的“分布式收集，统一处理”提供 ...