twitter storm源碼走讀之3--topology提交過程分析
概要 storm cluster可以想像成為一個工廠，nimbus主要負責從外部接收訂單和任務分配。除了從外部接單，nimbus還要將這些外部訂單轉換成為內部工作分配，這個時候nimbus充當了調度室的角色。supervisor作為中層干部，職責就是生產車間的主任，他的日常工作就是時刻等待着調度 ...
原文：storm源碼分析之topology提交過程
storm集群上運行的是一個個topology，一個topology是spouts和bolts組成的圖。當我們開發完topology程序后將其打成jar包，然后在shell中執行storm jar xxxxxx.jar xxxxxxxClass就可以將jar包上傳到storm集群的nimbus上，並執行topology。本文主要分析下topology的jar包是如何上傳到nimbus上的。首先我們 ...
2015-04-01 16:10 0 3338 推薦指數：
相關推薦
twitter storm源碼走讀之6 -- Trident Topology執行過程分析
歡迎轉載，轉載請注明出處，徽滬一郎。 TridentTopology是storm提供的高層使用接口，常見的一些SQL中的操作在tridenttopology提供的api中都有類似的影射。關於TridentTopology的使用及運行原理，當前進行詳細分析的文章不多 ...
2 storm的topology提交執行
本博文的主要內容有 .storm單機模式，打包，放到storm集群 .Storm的並發機制圖 .Storm的相關概念 .附PPT 打包，放到storm集群去。我這里，是單機模式下的storm。 weekend110-storm -> ...
Storm-源碼分析-Topology Submit-Nimbus-mk-assignments
什么是executor, 參考Storm-源碼分析- Component ,Executor ,Tas ...
Storm-源碼分析-Topology Submit-Executor-mk-threads
對於executor thread是整個storm最為核心的代碼, 因為在這個thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封裝調用. 對於executor的mk-threads, 是通過mutilmethods對spout和bolt分別定義 ...
Storm-源碼分析-Topology Submit-Nimbus
Nimbus Server Nimbus server, 首先從啟動命令開始, 同樣是使用storm命令"storm nimbus”來啟動 看下源碼, 此處和上面client不同, jvmtype="-server", 最終調用"backtype.storm ...
Storm-源碼分析-Topology Submit-Client
1 Storm Client 最開始使用storm命令來啟動topology, 如下 storm jar storm-starter-0.0.1-SNAPSHOT-standalone.jar storm.starter.WordCountTopology 這個storm命令 ...
Storm-源碼分析-Topology Submit-Task-TopologyContext (backtype.storm.task)
1. GeneralTopologyContext 記錄了Topology的基本信息, 包含StormTopology, StormConf 已經從他們推導出的, task和component, component的streams, input/output信息 ...