原文:Storm-源码分析-Topology Submit-Task-TopologyContext (backtype.storm.task)

. GeneralTopologyContext 记录了Topology的基本信息, 包含StormTopology, StormConf 已经从他们推导出的, task和component, component的streams, input output信息 StormTopology, worker从磁盘stormcode.ser中读出 StormConf, worker从磁盘stormco ...

2013-07-26 16:26 4 1628 推荐指数:

查看详情

Storm-源码分析-Topology Submit-Executor-mk-threads

对于executor thread是整个storm最为核心的代码, 因为在这个thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封装调用. 对于executor的mk-threads, 是通过mutilmethods对spout和bolt分别定义 ...

Tue Aug 06 01:22:00 CST 2013 3 2914
Storm-源码分析-Topology Submit-Nimbus

Nimbus Server Nimbus server, 首先从启动命令开始, 同样是使用storm命令"storm nimbus”来启动 看下源码, 此处和上面client不同, jvmtype="-server", 最终调用"backtype.storm ...

Wed Jun 19 23:28:00 CST 2013 5 2707
Storm-源码分析-Topology Submit-Client

1 Storm Client 最开始使用storm命令来启动topology, 如下 storm jar storm-starter-0.0.1-SNAPSHOT-standalone.jar storm.starter.WordCountTopology 这个storm命令 ...

Wed Jun 05 23:52:00 CST 2013 0 3142
Storm-源码分析- Scheduler (backtype.storm.scheduler)

首先看看IScheduler接口的定义, 主要实现两个接口, prepare和schedule 对于schedule的参数注释写的非常清楚, topologies包含所有topology的静态信息, 而cluster中包含了topology的运行态信息 根据他们就可以来判断 ...

Sat Jun 15 01:41:00 CST 2013 3 2267
Storm-源码分析-Stats (backtype.storm.stats)

会发现, 现在storm里面有两套metrics系统, metrics framework和stats framework 并且在所有地方都是同时注册两套, 貌似准备用metrics来替代stats, 但当前版本UI仍然使用stats 这个模块统计的数据怎么被使用, 1. ...

Mon Jul 29 23:58:00 CST 2013 9 1349
Storm-源码分析- Component ,Executor ,Task之间关系

Component包含Executor(threads)的个数 在StormBase中的num-executors, 这对应于你写topology代码时, 为每个component指定的并发数(通过setBolt和setSpout) Component和Task的对应关系 ...

Tue Jun 18 23:43:00 CST 2013 3 3747
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM