原文:Storm-源碼分析- Component ,Executor ,Task之間關系

Component包含Executor threads 的個數 在StormBase中的num executors, 這對應於你寫topology代碼時, 為每個component指定的並發數 通過setBolt和setSpout Component和Task的對應關系, storm task info 默認你可以不指定task數, 那么task和executor為 : 關系 當然也可以通過Com ...

2013-06-18 15:43 3 3747 推薦指數:

查看詳情

storm中worker、executortask之間關系

理清一下worker、executortask、supervisor、nimbus、zk這幾個之間關系 先來看一張圖 (圖片來自:http://www.cnblogs.com/foreach-break/p ...

Sun Nov 01 03:31:00 CST 2015 0 5688
Storm-源碼分析-Topology Submit-Executor-mk-threads

對於executor thread是整個storm最為核心的代碼, 因為在這個thread里面真正完成了大部分工作, 而其他的如supervisor,worker都是封裝調用. 對於executor的mk-threads, 是通過mutilmethods對spout和bolt分別定義 ...

Tue Aug 06 01:22:00 CST 2013 3 2914
Storm-源碼分析- metric

首先定義一系列metric相關的interface, IMetric, IReducer, ICombiner (backtype.storm.metric.api) 在task中, 創建一系列builtin-metrics ...

Tue Jul 30 22:23:00 CST 2013 0 3568
【原】storm源碼之理解Storm中Worker、ExecutorTask關系

Storm在集群上運行一個Topology時,主要通過以下3個實體來完成Topology的執行工作:1. Worker(進程)2. Executor(線程)3. Task下圖簡要描述了這3者之間關系:1個worker進程執行的是1個topology的子集(注:不會出現1個worker為多個 ...

Mon Aug 26 23:58:00 CST 2013 7 10825
Storm中-Worker Executor Task關系

Storm在集群上運行一個Topology時,主要通過以下3個實體來完成Topology的執行工作:1. Worker(進程)2. Executor(線程)3. Task下圖簡要描述了這3者之間關系: 注:supervisor.slots.ports:對於每個工作節點配置該節點可以運行多少個 ...

Tue Mar 08 21:57:00 CST 2016 0 3256
Storm-源碼分析- Thrift的使用

1 IDL 首先是storm.thrift, 作為IDL里面定義了用到的數據結構和service 然后backtype.storm.generated, 存放從IDL通過Thrift自動轉化成的Java代碼 比如對於nimbus service 在IDL的定義為, 而對 ...

Wed Jun 05 00:50:00 CST 2013 5 3514
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM