原文:Storm源码阅读之SpoutOutputCollector

不得不说storm是一个特别棒的实时计算框架。为了对后文理解的方便,先说几个storm中的术语: Topology:拓扑图或者拓扑结构。在storm中它通过消息分组的分式连接Spout和Bolt节点定义了运算处理的拓扑结构。如下图: 那什么是Spout呢 在计算任务需要的数据其实就是由Spout提供的,所以它可以说是Storm中的消息源,一般是从外部数据源 日志文件 数据库 消息队列等等 不间断地 ...

2016-08-19 09:18 0 2969 推荐指数:

查看详情

Storm/JStorm之TopologyBuilder源码阅读

在Strom/JStorm中有一个类是特别重要的,主要用来构建Topology的,这个类就是TopologyBuilder. 咱先看一下简单的例子: 在上面的main方法里先创建Top ...

Mon Oct 17 00:28:00 CST 2016 0 2009
Apache Storm源码阅读笔记

欢迎转载,转载请注明出处。 楔子 自从建了Spark交流的QQ群之后,热情加入的同学不少,大家不仅对Spark很热衷对于Storm也是充满好奇。大家都提到一个问题就是有关storm内部实现机理的资料比较少,理解起来非常费劲。 尽管自己也陆续对storm源码走读发表了一些博文,当时写 ...

Wed May 28 21:12:00 CST 2014 4 6883
【原】storm源码storm代码结构【译】

说明:本文翻译自Storm在GitHub上的官方Wiki中提供的Storm代码结构描述一节Structure of the codebase,希望对正在基于Storm进行源码级学习和研究的朋友有所帮助。 Storm源码共分为三个不同的层次。 首先,Storm在设计之初就考虑到了兼容多语言开发 ...

Thu Sep 19 01:17:00 CST 2013 2 2615
Storm-源码分析- metric

首先定义一系列metric相关的interface, IMetric, IReducer, ICombiner (backtype.storm.metric.api) 在task中, 创建一系列builtin-metrics ...

Tue Jul 30 22:23:00 CST 2013 0 3568
Storm TimeCacheMap RotatingMap源码分析

TimeCacheMap是Twitter Storm里面一个类, Storm使用它来保存那些最近活跃的对象,并且可以自动删除那些已经过期的对象。 不过在storm0.8之后TimeCacheMap被弃用了,取而代之的是RotatingMap。 RotatingMap ...

Mon Apr 21 04:41:00 CST 2014 0 3494
[阅读笔记]fsnotify源码阅读

fsnotify的github地址是 https://github.com/howeyc/fsnotify fsnotify是一个文件夹监控应用。可以使用创建一个w ...

Mon Dec 03 02:41:00 CST 2012 0 3235
Storm-源码分析-Stats (backtype.storm.stats)

会发现, 现在storm里面有两套metrics系统, metrics framework和stats framework 并且在所有地方都是同时注册两套, 貌似准备用metrics来替代stats, 但当前版本UI仍然使用stats 这个模块统计的数据怎么被使用, 1. ...

Mon Jul 29 23:58:00 CST 2013 9 1349
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM