Storm的并行度详解 Strom Topology执行分析：worker数，Bolt实例数，executor数，task数

蔚落 2022-06-03 01:16 395阅读 0赞

Storm的并行度详解

Storm的并行度是非常重要的，通过提高并行度可以提高storm程序的计算能力。

那strom是如何提高并行度的呢？

Strom程序的执行是由多个supervisor共同执行的。supervisor运行的是topology中的spout/bolt task

task  是storm中进行计算的最小的运行单位，表示是spout或者bolt的运行实例。

程序执行的最大粒度的运行单位是进程，刚才说的task也是需要有进程来运行它的，在supervisor中，运行task的进程称为worker，

Supervisor节点上可以运行非常多的worker进程，一般在一个进程中是可以启动多个线程的，所以我们可以在worker中运行多个线程，这些线程称为executor，在executor中运行task。

这样的话就可以提高strom的计算能力。

总结一下：worker>executor>task

要想提高storm的并行度可以从三个方面来改造

worker(进程)>executor(线程)>task(实例)

增加work进程，增加executor线程，增加task实例

看下面的图：

这表示是一个work进程，其实就是一个jvm虚拟机进程，在这个work进程里面有多个executor线程，每个executor线程会运行一个或多个task实例。一个task是最终完成数据处理的实体单元。(默认情况下一个executor运行一个task)

![技术分享][140822xsilzwsaxsxu1six.png]

worker,executor,task解释

1个worker进程执行的是1个topology的子集（注：不会出现1个worker为多个topology服务）。1个worker进程会启动1个或多个executor线程来执行1个topology的component(spout或bolt)。因此，1个运行中的topology就是由集群中多台物理机上的多个worker进程组成的。

executor是1个被worker进程启动的单独线程。每个executor只会运行1个topology的1个component(spout或bolt)的task（注：task可以是1个或多个，storm默认是1个component只生成1个task，executor线程里会在每次循环里顺序调用所有task实例）。

task是最终运行spout或bolt中代码的单元（注：1个task即为spout或bolt的1个实例，executor线程在执行期间会调用该task的nextTuple或execute方法）。topology启动后，1个component(spout或bolt)的task数目是固定不变的，但该component使用的executor线程数可以动态调整（例如：1个executor线程可以执行该component的1个或多个task实例）。这意味着，对于1个component存在这样的条件：\#threads<=\#tasks（即：线程数小于等于task数目）。默认情况下task的数目等于executor线程数目，即1个executor线程只运行1个task。

刚才从理论说明了如何提高集群的并行度,在这里我们就来看一下这些东西worker(进程)>executor(线程)>task(实例) 是如何设置的

l  worker(进程)：这个worker进程数量是在集群启动之前配置好的，在哪配置的呢？是在storm/conf/storm.yaml文件中，参数是supervisor.slots.port，如果我们不在这进行配置的话，这个参数也是有默认值的，在strom-0.9.3的压缩包中的lib目录下，有一个strom-core.jar，打开这个jar文件，在里面有一个defaults.yaml文件中是有一些默认配置的。

![技术分享][141116ogk4mgm167lo5lw1.png]

默认情况下一个storm项目只使用一个work进程，也可以通过代码进行修改，通过config.setNumWorkers(workers)设置。(最好一台机器上的一个topology只使用一个worker,主要原因时减少了worker之间的数据传输)

注意：如果worker使用完的话再提交topology就不会执行，因为没有可用的worker，只能处于等待状态，把之前运行的topology停止一个之后这个就会继续执行了，

![技术分享][140823kpe6e4dci64czpdh.jpg]

l executor(线程)：默认情况下一个executor运行一个task，可以通过在代码中设置builder.setSpout(id,spout, parallelism\_hint);或者builder.setBolt(id,bolt,parallelism\_hint);来提高线程数的。

l task(实例)：通过boltDeclarer.setNumTasks(num);来设置实例的个数

默认情况下，一个supervisor节点会启动4个worker进程。每个worker进程会启动1个executor，每个executor启动1个task。

Ok，这几个参数都可以使用一些方法进行增加。

下面来举个例子看一下对这些配置修改之后的效果

l  worker(进程)，通过在代码中设置，可以在ui界面上查看worker的总数，并且还可以在linux服务器上执行jps查看work进程。

![技术分享][140823g8l3zzy235583cfg.jpg]

在代码中设置使用3个worker，查看ui界面，发现workers是3个，executors使用了5个，为什么呢？因为每一个worker默认都会占用一个executor（这个executor会启动一个acker任务），这样就会占用三个，剩下的两个是spout和bolt实例占用了。

如果使用5个worker，executor会使用7个，因为worker本身就会占用5个，spout和bolt占用两个。

![技术分享][140824hd47sc7ypaqvbpda.jpg]

Acker任务默认是每个worker进程启动一个executor线程来执行,，可以在topology中取消acker任务，这样的话就不会多出来一个executor和任务了。

代码如下：

实际上就是修改一个配置

topology.acker.executors

![技术分享][140824v39rtumtttrxju3t.jpg]

这样的话在页面查看就只有两个executor和2个task了。

l  executor(线程)，在spout和bolt中设置线程数，都设置为2个，查看ui界面

![技术分享][140824te2edh4yhrust7tl.jpg]

现在使用的executor和tasks就是7个了，因为worker本身使用3个，spout和bolt分别使用2个。

![技术分享][140825jpsgeaysapm9vep2.jpg]

l  task(实例)，在sum中设置实例个数为5，查看ui界面

![技术分享][140825n5sphhy5sk0vr5u1.png]

发现ui界面上显示的tasks是10，因为spout占用2个，bolt占用5个，剩下的3个由acker任务占用

![技术分享][140825ps687rs8wrsyqw74.jpg]

注意：虽然在这设置了多个task实例，但是并行度并没有很大提高，因为只有两个线程去运行这些实例，只有设置足够多的线程和实例才可以真正的提高并行度。

在这设置多个实例主要是为了下面执行rebalance的时候用到，因为rebalance不需要修改代码，就可以动态修改topology的并行度，这样的话就必须提前配置好多个实例，在rebalance的时候主要是对之前设置多余的任务实例分配线程去执行。

在命令行动态修改并行度

除了使用代码进行调整，还可以在shell命令行下对并行度进行调整。

storm rebalance mytopology -w 10 -n 2 -e spout=2 -e bolt=2

表示 10秒之后对mytopology进行并行度调整。把spout调整为2个executor，把bolt调整为2个executor

注意：并行度主要就是调整executor的数量，但是调整之后的executor的数量必须小于等于task的数量，如果分配的executor的线程数比task数量多的话也只能分配和task数量相等的executor。

在创建Storm的Topology时，我们通常使用如下代码：

\[java\] [view plain][] [copy][view plain]

1.  builder.setBolt("cpp", **new** CppBolt(), 3).setNumTasks(5).noneGrouping(pre\_name);  
2.    
3.  Config conf = **new** Config();  
4.  conf.setNumWorkers(3);

参数1：bolt名称 "cpp"

参数2：bolt类型 CppBolt

参数3：bolt的并行数，parallelismNum，即运行topology时，该bolt的线程数

setNumTasks() 设置bolt的task数

noneGrouping()  设置输入流方式及字段

conf.setNumWorkers()设置worker数据。

经过多次试验总结，得出如下结论：

1）Topology的worker数通过config设置，即执行该topology的worker（java）进程数。它可以通过storm rebalance 命令任意调整。

2) Topology中某个bolt的executor数，即parallelismNum，即执行该bolt的线程数，在setBolt时由第三个参数指定。它可以通过storm rebalance 命令调整，但最大不能超过该bolt的task数；

3) bolt的task数，通过setNumTasks()设置。（也可不设置，默认取bolt的executor数），无法在运行时调整。

4)Bolt实例数，这个比较特别，它和task数相等。有多少个task就会new 多少个Bolt对象。而这些Bolt对象在运行时由Bolt的thread进行调度。也即是说

\[java\] [view plain][] [copy][view plain]

1.  builder.setBolt("cpp", **new** CppBolt(), 3).setNumTasks(5).noneGrouping(pre\_name);

会创建3个线程，但有内存中会5个CppBolt对象，三个线程调度5个对象。

### How to change the parallelism of a running topology, 动态的改变并发度 ###

Storm支持在不restart topology的情况下, 动态的改变(增减)worker processes的数目和executors的数目, 称为rebalancing.   
通过Storm web UI, 或者通过storm rebalance命令, 见下面的例子

A nifty feature of Storm is that you can increase or decrease the number of worker processes and/or executors without being required to restart the cluster or the topology. The act of doing so is called rebalancing.

You have two options to rebalance a topology:

1.  Use the Storm web UI to rebalance the topology.（怎么使用？）
2.  Use the CLI tool storm rebalance as described below.

Here is an example of using the CLI tool:

# Reconfigure the topology "mytopology" to use 5 worker processes,
    # the spout "blue-spout" to use 3 executors and
    # the bolt "yellow-bolt" to use 10 executors.
    
    $ storm rebalance mytopology -n 5 -e blue-spout=3 -e yellow-bolt=10

[140822xsilzwsaxsxu1six.png]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140822xsilzwsaxsxu1six.png
[141116ogk4mgm167lo5lw1.png]: http://bbs.superwu.cn/data/attachment/forum/201505/22/141116ogk4mgm167lo5lw1.png
[140823kpe6e4dci64czpdh.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140823kpe6e4dci64czpdh.jpg
[140823g8l3zzy235583cfg.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140823g8l3zzy235583cfg.jpg
[140824hd47sc7ypaqvbpda.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140824hd47sc7ypaqvbpda.jpg
[140824v39rtumtttrxju3t.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140824v39rtumtttrxju3t.jpg
[140824te2edh4yhrust7tl.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140824te2edh4yhrust7tl.jpg
[140825jpsgeaysapm9vep2.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140825jpsgeaysapm9vep2.jpg
[140825n5sphhy5sk0vr5u1.png]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140825n5sphhy5sk0vr5u1.png
[140825ps687rs8wrsyqw74.jpg]: http://bbs.superwu.cn/data/attachment/forum/201505/22/140825ps687rs8wrsyqw74.jpg
[view plain]: http://blog.csdn.net/jmppok/article/details/17244599#