原文:【原】storm源码之storm代码结构【译】

说明:本文翻译自Storm在GitHub上的官方Wiki中提供的Storm代码结构描述一节Structure of the codebase,希望对正在基于Storm进行源码级学习和研究的朋友有所帮助。 Storm的源码共分为三个不同的层次。 首先,Storm在设计之初就考虑到了兼容多语言开发。Nimbus是一个thrift服务,topologies被定义为Thrift结构体.Thrift的运用使 ...

2013-09-18 17:17 2 2615 推荐指数:

查看详情

Storm及特点

Storm入门教程 1. Storm基础 Storm Storm主要特点 Storm基本概念 Storm调度器 Storm配置 Guaranteeing Message Processing(消息处理保障机制) Daemon Fault Tolerance(守护线程容错 ...

Sat Oct 29 22:05:00 CST 2016 0 1563
storm源码之理解Storm中Worker、Executor、Task关系

Storm在集群上运行一个Topology时,主要通过以下3个实体来完成Topology的执行工作:1. Worker(进程)2. Executor(线程)3. Task下图简要描述了这3者之间的关系:1个worker进程执行的是1个topology的子集(注:不会出现1个worker为多个 ...

Mon Aug 26 23:58:00 CST 2013 7 10825
storm源码之一个class解决nimbus单点问题

一、storm nimbus 单节点问题概述 1、storm集群在生产环境部署之后,通常会是如下的结构:从图中可以看出zookeeper和supervisor都是多节点,任意1个zookeeper节点宕机或supervisor节点宕机均不会对系统整体运行造成影响,但nimbus和ui都是单节点 ...

Sun Sep 15 01:05:00 CST 2013 11 3006
Storm在zookeeper上的目录结构

storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中)。 backtype.storm.cluster定义了两个重要protocol:ClusterState和StormClusterState。clojure中 ...

Mon Sep 01 16:48:00 CST 2014 4 2931
Storm源码阅读之SpoutOutputCollector

不得不说storm是一个特别棒的实时计算框架。为了对后文理解的方便,先说几个storm中的术语: Topology:拓扑图或者拓扑结构。在storm中它通过消息分组的分式连接Spout和Bolt节点定义了运算处理的拓扑结构。如下图: 那什么是Spout呢? 在计算任务需要的数据 ...

Fri Aug 19 17:18:00 CST 2016 0 2969
打包运行storm代码

两个节点的storm集群: host01 host02 zk nimbus supervisor ...

Tue Sep 22 06:54:00 CST 2015 0 2060
Storm/JStorm之TopologyBuilder源码阅读

在Strom/JStorm中有一个类是特别重要的,主要用来构建Topology的,这个类就是TopologyBuilder. 咱先看一下简单的例子: 在上面的main方法里先创建Top ...

Mon Oct 17 00:28:00 CST 2016 0 2009
Apache Storm源码阅读笔记

欢迎转载,转载请注明出处。 楔子 自从建了Spark交流的QQ群之后,热情加入的同学不少,大家不仅对Spark很热衷对于Storm也是充满好奇。大家都提到一个问题就是有关storm内部实现机理的资料比较少,理解起来非常费劲。 尽管自己也陆续对storm源码走读发表了一些博文,当时写 ...

Wed May 28 21:12:00 CST 2014 4 6883
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM