原文:flume1.8 Sources类型介绍(二)

Flume Sources . Avro Source 监听Avro端口,从Avro client streams接收events。要求属性是粗体字。 agent a 例子: ipFilterRules例子: ipFilterRules allow:ip: . , allow:name:localhost,deny:ip: . Thrift Source 监听Thrift端口和从外部Thrift ...

2018-01-10 00:18 0 5488 推荐指数:

查看详情

flume1.8 Sinks类型介绍(三)

1. Flume Sinks 1.1 HDFS Sink 该sink把events写进Hadoop分布式文件系统(HDFS)。它目前支持创建文本和序列文件。它支持在两种文件类型压缩。文件可以基于数据的经过时间或者大小或者事件的数量周期性地滚动。它还通过属性(如时间戳或发生事件的机器)把数据划分 ...

Tue Jan 02 07:59:00 CST 2018 0 4695
flume1.8 Channel类型介绍(四)

1. Flume Channel Channels是events在agent上进行的存储库。Source添加events,Sink移除events。 1.1 Memory Channel(内存Channels) events存储在配置最大大小的内存队列中。对于流量较高和由于agent故障 ...

Thu Jan 04 09:13:00 CST 2018 0 5570
flume1.8 基础架构介绍(一)

1. 系统要求 1. Java运行环境 —— Java 1.8及以上 2. 内存 —— 足够的内存供配置的sources,channels 或者sinks使用 3. 硬盘空间 —— 足够的硬盘空间供配置的channels或者sinks使用 4. 文件权限 —— agent使用的文件夹读写 ...

Sun Dec 31 09:22:00 CST 2017 0 3089
flume1.8 开发指南学习感悟

概述: Apache Flume是一个分布式、可用的系统,用于从许多不同的sources有效的收集并移动大量日志数据用于集中存储数据。 架构及数据流动模型: flume实际上就是一个Agent。Agent里面包含三大组件:Source、Channel、Sink。 Flume agent流动 ...

Sun Dec 24 08:43:00 CST 2017 0 1816
Flume 入门--几种不同的Sources

1.flume概念 flume是分布式的,可靠的,高可用的,用于对不同来源的大量的日志数据进行有效收集、聚集和移动,并以集中式的数据存储的系统。 flume目前是apache的一个顶级项目。 flume需要java运行环境,要求java1.6以上,推荐java1.7. 将下载好的flume ...

Tue Jan 10 06:28:00 CST 2017 1 19486
Flume的各种类型的组件介绍

1. Source NetCat Source:绑定的端口(tcp、udp),将流经端口的每一个文本行数据作为Event输入; type:source的类型,必须是netcat。 bind:要监听的(本机的)主机名或者ip。此监听不是过滤发送方。一台电脑不是说只有一个IP。有多网卡的电脑 ...

Sun Oct 08 01:03:00 CST 2017 0 2331
GCD介绍(三): Dispatch Sources

该系列文章转载自:http://www.dreamingwish.com/何为Dispatch Sources简单来说,dispatch source是一个监视某些类型事件的对象。当这些事件发生时,它自动将一个block放入一个dispatch queue的执行例程中。说的貌似有点不清不楚 ...

Fri Apr 06 23:01:00 CST 2012 1 12150
大数据系列之Flume--几种不同的Sources

1.flume概念 flume是分布式的,可靠的,高可用的,用于对不同来源的大量的日志数据进行有效收集、聚集和移动,并以集中式的数据存储的系统。 flume目前是apache的一个顶级项目。 flume需要java运行环境,要求java1.6以上,推荐java1.7. 将下载好的flume ...

Tue Mar 14 01:37:00 CST 2017 0 6994
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM