理清一下worker、executor、task、supervisor、nimbus、zk这几个之间的关系 先来看一张图 (图片来自:http://www.cnblogs.com/foreach-break/p ...
Component包含Executor threads 的个数 在StormBase中的num executors, 这对应于你写topology代码时, 为每个component指定的并发数 通过setBolt和setSpout Component和Task的对应关系, storm task info 默认你可以不指定task数, 那么task和executor为 : 关系 当然也可以通过Com ...
2013-06-18 15:43 3 3747 推荐指数:
理清一下worker、executor、task、supervisor、nimbus、zk这几个之间的关系 先来看一张图 (图片来自:http://www.cnblogs.com/foreach-break/p ...
对于executor thread是整个storm最为核心的代码, 因为在这个thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封装调用. 对于executor的mk-threads, 是通过mutilmethods对spout和bolt分别定义 ...
1. GeneralTopologyContext 记录了Topology的基本信息, 包含StormTopology, StormConf 已经从他们推导出的, task和component, component的streams, input/output信息 ...
首先定义一系列metric相关的interface, IMetric, IReducer, ICombiner (backtype.storm.metric.api) 在task中, 创建一系列builtin-metrics ...
本文导读: Worker、Executor、Task详解: Storm在集群上运行一个Topology时,主要通过以下3个实体来完成Topology的执行工作:1. Worker Process(工作进程)——Spout/Bolt中运行具体处理逻辑的进程2. ...
Storm在集群上运行一个Topology时,主要通过以下3个实体来完成Topology的执行工作:1. Worker(进程)2. Executor(线程)3. Task下图简要描述了这3者之间的关系:1个worker进程执行的是1个topology的子集(注:不会出现1个worker为多个 ...
Storm在集群上运行一个Topology时,主要通过以下3个实体来完成Topology的执行工作:1. Worker(进程)2. Executor(线程)3. Task下图简要描述了这3者之间的关系: 注:supervisor.slots.ports:对于每个工作节点配置该节点可以运行多少个 ...
1 IDL 首先是storm.thrift, 作为IDL里面定义了用到的数据结构和service 然后backtype.storm.generated, 存放从IDL通过Thrift自动转化成的Java代码 比如对于nimbus service 在IDL的定义为, 而对 ...