原文:Storm-源码分析-Topology Submit-Nimbus-mk-assignments

什么是 mk assignment , 主要就是产生executor gt node port关系, 将executor分配到哪个node的哪个slot上 port代表slot, 一个slot可以run一个worker进程, 一个worker包含多个executor线程 先搞清什么是executor, 参考Storm 源码分析 Component ,Executor ,Task之间关系 . 读出 ...

2013-06-19 15:22 7 2450 推荐指数:

查看详情

Storm-源码分析-Topology Submit-Nimbus

Nimbus Server Nimbus server, 首先从启动命令开始, 同样是使用storm命令"storm nimbus”来启动 看下源码, 此处和上面client不同, jvmtype="-server", 最终调用"backtype.storm.daemon.nimbus ...

Wed Jun 19 23:28:00 CST 2013 5 2707
Storm-源码分析-Topology Submit-Executor-mk-threads

对于executor thread是整个storm最为核心的代码, 因为在这个thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封装调用. 对于executor的mk-threads, 是通过mutilmethods对spout和bolt分别定义 ...

Tue Aug 06 01:22:00 CST 2013 3 2914
Storm-源码分析-Topology Submit-Client

1 Storm Client 最开始使用storm命令来启动topology, 如下 storm jar storm-starter-0.0.1-SNAPSHOT-standalone.jar storm.starter.WordCountTopology 这个storm命令 ...

Wed Jun 05 23:52:00 CST 2013 0 3142
Storm-源码分析- metric

, (backtype.storm.daemon.builtin-metrics), 并注册到topology context里面 task会不断的利用如spout-ack ...

Tue Jul 30 22:23:00 CST 2013 0 3568
storm启动nimbus源码分析-nimbus.clj

nimbusstorm集群的"控制器",是storm集群的重要组成部分。我们可以通用执行bin/storm nimbus >/dev/null 2>&1 &来启动nimbus。bin/storm是一个python脚本,在这个脚本中定义了一个nimbus函数 ...

Tue Sep 16 05:24:00 CST 2014 0 2162
Storm-源码分析- Thrift的使用

1 IDL 首先是storm.thrift, 作为IDL里面定义了用到的数据结构和service 然后backtype.storm.generated, 存放从IDL通过Thrift自动转化成的Java代码 比如对于nimbus service 在IDL的定义为, 而对 ...

Wed Jun 05 00:50:00 CST 2013 5 3514
Storm-源码分析- Disruptor在storm中的使用

Disruptor 2.0, (http://ifeve.com/disruptor-2-change/) Disruptor为了更便于使用, 在2.0做了比较大的调整, 比较突出的是更换了几乎所有 ...

Thu Jul 11 00:18:00 CST 2013 0 4477
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM