原文:Storm-源碼分析-Topology Submit-Nimbus-mk-assignments

什么是 mk assignment , 主要就是產生executor gt node port關系, 將executor分配到哪個node的哪個slot上 port代表slot, 一個slot可以run一個worker進程, 一個worker包含多個executor線程 先搞清什么是executor, 參考Storm 源碼分析 Component ,Executor ,Task之間關系 . 讀出 ...

2013-06-19 15:22 7 2450 推薦指數:

查看詳情

Storm-源碼分析-Topology Submit-Nimbus

Nimbus Server Nimbus server, 首先從啟動命令開始, 同樣是使用storm命令"storm nimbus”來啟動 看下源碼, 此處和上面client不同, jvmtype="-server", 最終調用"backtype.storm.daemon.nimbus ...

Wed Jun 19 23:28:00 CST 2013 5 2707
Storm-源碼分析-Topology Submit-Executor-mk-threads

對於executor thread是整個storm最為核心的代碼, 因為在這個thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封裝調用. 對於executor的mk-threads, 是通過mutilmethods對spout和bolt分別定義 ...

Tue Aug 06 01:22:00 CST 2013 3 2914
Storm-源碼分析-Topology Submit-Client

1 Storm Client 最開始使用storm命令來啟動topology, 如下 storm jar storm-starter-0.0.1-SNAPSHOT-standalone.jar storm.starter.WordCountTopology 這個storm命令 ...

Wed Jun 05 23:52:00 CST 2013 0 3142
Storm-源碼分析- metric

, (backtype.storm.daemon.builtin-metrics), 並注冊到topology context里面 task會不斷的利用如spout-ack ...

Tue Jul 30 22:23:00 CST 2013 0 3568
storm啟動nimbus源碼分析-nimbus.clj

nimbusstorm集群的"控制器",是storm集群的重要組成部分。我們可以通用執行bin/storm nimbus >/dev/null 2>&1 &來啟動nimbus。bin/storm是一個python腳本,在這個腳本中定義了一個nimbus函數 ...

Tue Sep 16 05:24:00 CST 2014 0 2162
Storm-源碼分析- Thrift的使用

1 IDL 首先是storm.thrift, 作為IDL里面定義了用到的數據結構和service 然后backtype.storm.generated, 存放從IDL通過Thrift自動轉化成的Java代碼 比如對於nimbus service 在IDL的定義為, 而對 ...

Wed Jun 05 00:50:00 CST 2013 5 3514
Storm-源碼分析- Disruptor在storm中的使用

Disruptor 2.0, (http://ifeve.com/disruptor-2-change/) Disruptor為了更便於使用, 在2.0做了比較大的調整, 比較突出的是更換了幾乎所有 ...

Thu Jul 11 00:18:00 CST 2013 0 4477
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM