Java並發專題 帶返回結果的批量任務運行 CompletionService ExecutorService.invokeAll


轉載請標明出處:http://blog.csdn.net/lmj623565791/article/details/27250059

普通情況下,我們使用Runnable作為主要的任務表示形式,可是Runnable是一種有非常大局限的抽象,run方法中僅僅能記錄日志,打印,或者把數據匯總入某個容器(一方面內存消耗大,還有一方面須要控制同步,效率非常大的限制),總之不能返回運行的結果;比方同一時候1000個任務去網絡上抓取數據,然后將抓取到的數據進行處理(處理方式不定),我認為最好的方式就是提供回調接口,把處理的方式最為回調傳進去;可是如今我們有了更好的方式實現:CompletionService + Callable

Callable的call方法能夠返回運行的結果;

CompletionService將Executor(線程池)和BlockingQueue(堵塞隊列)結合在一起,同一時候使用Callable作為任務的基本單元,整個過程就是生產者不斷把Callable任務放入堵塞對了,Executor作為消費者不斷把任務取出來運行,並返回結果;

優勢:

a、堵塞隊列防止了內存中排隊等待的任務過多,造成內存溢出(畢竟一般生產者速度比較快,比方爬蟲准備好網址和規則,就去運行了,運行起來(消費者)還是比較慢的)

b、CompletionService能夠實現,哪個任務先運行完畢就返回,而不是按順序返回,這樣能夠極大的提升效率;

1、CompletionService : Executor + BlockingQueue 

以下看個樣例:

package com.zhy.concurrency.completionService;

import java.util.Random;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.Callable;
import java.util.concurrent.CompletionService;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.ExecutorCompletionService;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.Future;
import java.util.concurrent.LinkedBlockingDeque;

/**
 * 將Executor和BlockingQueue功能融合在一起,能夠將Callable的任務提交給它來運行, 然后使用take()方法獲得已經完畢的結果
 * 
 * @author zhy
 * 
 */
public class CompletionServiceDemo
{

	public static void main(String[] args) throws InterruptedException,
			ExecutionException
	{
		/**
		 * 內部維護11個線程的線程池
		 */
		ExecutorService exec = Executors.newFixedThreadPool(11);
		/**
		 * 容量為10的堵塞隊列
		 */
		final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(
				10);
		//實例化CompletionService
		final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(
				exec, queue);

		/**
		 * 模擬瞬間產生10個任務,且每一個任務運行時間不一致
		 */
		for (int i = 0; i < 10; i++)
		{
			completionService.submit(new Callable<Integer>()
			{
				@Override
				public Integer call() throws Exception
				{
					int ran = new Random().nextInt(1000);
					Thread.sleep(ran);
					System.out.println(Thread.currentThread().getName()
							+ " 歇息了 " + ran);
					return ran;
				}
			});
		}
		
		/**
		 * 馬上輸出結果
		 */
		for (int i = 0; i < 10; i++)
		{
			try
			{	
				//誰最先運行完畢,直接返回
				Future<Integer> f = completionService.take();
				System.out.println(f.get());
			} catch (InterruptedException e)
			{
				e.printStackTrace();
			} catch (ExecutionException e)
			{
				e.printStackTrace();
			}
		}

		exec.shutdown();

	}

}
輸出結果:

pool-1-thread-4 歇息了 52
52
pool-1-thread-1 歇息了 59
59
pool-1-thread-10 歇息了 215
215
pool-1-thread-9 歇息了 352
352
pool-1-thread-5 歇息了 389
389
pool-1-thread-3 歇息了 589
589
pool-1-thread-2 歇息了 794
794
pool-1-thread-7 歇息了 805
805
pool-1-thread-6 歇息了 909
909
pool-1-thread-8 歇息了 987
987

最先運行完畢的直接返回,並不須要按任務提交的順序運行,假設須要寫個高並發的程序,且每一個任務須要返回運行結果,這是個相當不錯的選擇!


2、ExecutorService.invokeAll

ExecutorService的invokeAll方法也能批量運行任務,並批量返回結果,可是呢,有個我認為非常致命的缺點,必須等待全部的任務運行完畢后統一返回,一方面內存持有的時間長;還有一方面響應性也有一定的影響,畢竟大家都喜歡看看刷刷的運行結果輸出,而不是苦苦的等待;

以下看個樣例:

package com.zhy.concurrency.executors;

import java.util.ArrayList;
import java.util.List;
import java.util.Random;
import java.util.concurrent.Callable;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.Future;

public class TestInvokeAll
{

	public static void main(String[] args) throws InterruptedException,
			ExecutionException
	{
		ExecutorService exec = Executors.newFixedThreadPool(10);

		List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();
		Callable<Integer> task = null;
		for (int i = 0; i < 10; i++)
		{
			task = new Callable<Integer>()
			{
				@Override
				public Integer call() throws Exception
				{
					int ran = new Random().nextInt(1000);
					Thread.sleep(ran);
					System.out.println(Thread.currentThread().getName()+" 歇息了 " + ran );
					return ran;
				}
			};

			tasks.add(task);
		}
		
		long s = System.currentTimeMillis();
		
		
		List<Future<Integer>> results = exec.invokeAll(tasks);
		
		System.out.println("運行任務消耗了 :" + (System.currentTimeMillis() - s) +"毫秒");
		
		for (int i = 0; i < results.size(); i++)
		{
			try
			{
				System.out.println(results.get(i).get());
			} catch (Exception e)
			{
				e.printStackTrace();
			}
		}

		
		exec.shutdown();

	}

}

運行結果:

pool-1-thread-10 歇息了 1
pool-1-thread-5 歇息了 59
pool-1-thread-6 歇息了 128
pool-1-thread-1 歇息了 146
pool-1-thread-3 歇息了 158
pool-1-thread-7 歇息了 387
pool-1-thread-9 歇息了 486
pool-1-thread-8 歇息了 606
pool-1-thread-4 歇息了 707
pool-1-thread-2 歇息了 817
運行任務消耗了 :819毫秒
146
817
158
707
59
128
387
606
486
1

我特意在任務提交完畢打印了一個時間,然后invokeAll運行完畢后打印了下時間,能夠看出invokeAll返回是等待全部線程運行完畢的。這點來說,我認為可用性不如CompletionService。


嗯,對於批量運行任務,且攜帶返回結果的案例就到這里~假設有疑問或者代碼中存在錯誤請指出~





免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM