原文:Storm-源碼分析-Topology Submit-Task-TopologyContext (backtype.storm.task)

. GeneralTopologyContext 記錄了Topology的基本信息, 包含StormTopology, StormConf 已經從他們推導出的, task和component, component的streams, input output信息 StormTopology, worker從磁盤stormcode.ser中讀出 StormConf, worker從磁盤stormco ...

2013-07-26 16:26 4 1628 推薦指數:

查看詳情

Storm-源碼分析-Topology Submit-Executor-mk-threads

對於executor thread是整個storm最為核心的代碼, 因為在這個thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封裝調用. 對於executor的mk-threads, 是通過mutilmethods對spout和bolt分別定義 ...

Tue Aug 06 01:22:00 CST 2013 3 2914
Storm-源碼分析-Topology Submit-Nimbus

Nimbus Server Nimbus server, 首先從啟動命令開始, 同樣是使用storm命令"storm nimbus”來啟動 看下源碼, 此處和上面client不同, jvmtype="-server", 最終調用"backtype.storm ...

Wed Jun 19 23:28:00 CST 2013 5 2707
Storm-源碼分析-Topology Submit-Client

1 Storm Client 最開始使用storm命令來啟動topology, 如下 storm jar storm-starter-0.0.1-SNAPSHOT-standalone.jar storm.starter.WordCountTopology 這個storm命令 ...

Wed Jun 05 23:52:00 CST 2013 0 3142
Storm-源碼分析- Scheduler (backtype.storm.scheduler)

首先看看IScheduler接口的定義, 主要實現兩個接口, prepare和schedule 對於schedule的參數注釋寫的非常清楚, topologies包含所有topology的靜態信息, 而cluster中包含了topology的運行態信息 根據他們就可以來判斷 ...

Sat Jun 15 01:41:00 CST 2013 3 2267
Storm-源碼分析-Stats (backtype.storm.stats)

會發現, 現在storm里面有兩套metrics系統, metrics framework和stats framework 並且在所有地方都是同時注冊兩套, 貌似准備用metrics來替代stats, 但當前版本UI仍然使用stats 這個模塊統計的數據怎么被使用, 1. ...

Mon Jul 29 23:58:00 CST 2013 9 1349
Storm-源碼分析- Component ,Executor ,Task之間關系

Component包含Executor(threads)的個數 在StormBase中的num-executors, 這對應於你寫topology代碼時, 為每個component指定的並發數(通過setBolt和setSpout) Component和Task的對應關系 ...

Tue Jun 18 23:43:00 CST 2013 3 3747
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM