[引用]java多線程學習-java.util.concurrent詳解(四) BlockingQueue

自：http://janeky.iteye.com/blog/770671
7.BlockingQueue
    “支持兩個附加操作的 Queue，這兩個操作是：獲取元素時等待隊列變為非空，以及存儲元素時等待空間變得可用。“

    這里我們主要討論BlockingQueue的最典型實現：LinkedBlockingQueue 和ArrayBlockingQueue。兩者的不同是底層的數據結構不夠，一個是鏈表，另外一個是數組。
   
    后面將要單獨解釋其他類型的BlockingQueue和SynchronousQueue

    BlockingQueue的經典用途是 生產者-消費者模式

    代碼如下：

Java代碼  

1. import java.util.Random;  
2. import java.util.concurrent.BlockingQueue;  
3. import java.util.concurrent.LinkedBlockingQueue;  
4.   
5. public class TestBlockingQueue {  
6.   
7.     public static void main(String[] args) {  
8.         final BlockingQueue<Integer> queue=new LinkedBlockingQueue<Integer>(3);  
9.         final Random random=new Random();  
10.           
11.         class Producer implements Runnable{  
12.             @Override  
13.             public void run() {  
14.                 while(true){  
15.                     try {  
16.                         int i=random.nextInt(100);  
17.                         queue.put(i);//當隊列達到容量時候，會自動阻塞的  
18.                         if(queue.size()==3)  
19.                         {  
20.                             System.out.println("full");  
21.                         }  
22.                     } catch (InterruptedException e) {  
23.                         e.printStackTrace();  
24.                     }  
25.                 }  
26.             }  
27.         }  
28.           
29.         class Consumer implements Runnable{  
30.             @Override  
31.             public void run() {  
32.                 while(true){  
33.                     try {  
34.                         queue.take();//當隊列為空時，也會自動阻塞  
35.                         Thread.sleep(1000);  
36.                     } catch (InterruptedException e) {  
37.                         e.printStackTrace();  
38.                     }  
39.                 }  
40.             }  
41.         }  
42.           
43.         new Thread(new Producer()).start();  
44.         new Thread(new Consumer()).start();  
45.     }  
46.   
47. }  

    總結：BlockingQueue使用時候特別注意take 和 put

8. DelayQueue

我們先來學習一下JDK1.5 API中關於這個類的詳細介紹：
    “它是包含Delayed 元素的一個無界阻塞隊列，只有在延遲期滿時才能從中提取元素。該隊列的頭部 是延遲期滿后保存時間最長的 Delayed 元素。如果延遲都還沒有期滿，則隊列沒有頭部，並且 poll 將返回 null。當一個元素的 getDelay(TimeUnit.NANOSECONDS) 方法返回一個小於等於 0 的值時，將發生到期。即使無法使用 take 或 poll 移除未到期的元素，也不會將這些元素作為正常元素對待。例如，size 方法同時返回到期和未到期元素的計數。此隊列不允許使用 null 元素。”

    在現實生活中，很多DelayQueue的例子。就拿上海的SB會來說明，很多國家地區的開館時間不同。你很早就來到園區，然后急急忙忙地跑到一些心儀的館區，發現有些還沒開，你吃了閉門羹。

    仔細研究DelayQueue，你會發現它其實就是一個PriorityQueue的封裝（按照delay時間排序），里面的元素都實現了Delayed接口，相關操作需要判斷延時時間是否到了。

    在實際應用中，有人拿它來管理跟實際相關的緩存、session等

   下面我就通過 “上海SB會的例子來闡述DelayQueue的用法”

代碼如下：

Java代碼  

1. import java.util.Random;  
2. import java.util.concurrent.DelayQueue;  
3. import java.util.concurrent.Delayed;  
4. import java.util.concurrent.TimeUnit;  
5.   
6. public class TestDelayQueue {  
7.   
8.     private class Stadium implements Delayed  
9.     {  
10.         long trigger;  
11.           
12.         public Stadium(long i){  
13.             trigger=System.currentTimeMillis()+i;  
14.         }  
15.           
16.         @Override  
17.         public long getDelay(TimeUnit arg0) {  
18.             long n=trigger-System.currentTimeMillis();  
19.             return n;  
20.         }  
21.   
22.         @Override  
23.         public int compareTo(Delayed arg0) {  
24.             return (int)(this.getDelay(TimeUnit.MILLISECONDS)-arg0.getDelay(TimeUnit.MILLISECONDS));  
25.         }  
26.           
27.         public long getTriggerTime(){  
28.             return trigger;  
29.         }  
30.           
31.     }  
32.     public static void main(String[] args)throws Exception {  
33.         Random random=new Random();  
34.         DelayQueue<Stadium> queue=new DelayQueue<Stadium>();  
35.         TestDelayQueue t=new TestDelayQueue();  
36.           
37.         for(int i=0;i<5;i++){  
38.             queue.add(t.new Stadium(random.nextInt(30000)));  
39.         }  
40.         Thread.sleep(2000);  
41.           
42.         while(true){  
43.             Stadium s=queue.take();//延時時間未到就一直等待  
44.             if(s!=null){  
45.                 System.out.println(System.currentTimeMillis()-s.getTriggerTime());//基本上是等於0  
46.             }  
47.             if(queue.size()==0)  
48.                 break;  
49.         }  
50.     }  
51. }  

    總結：適用於需要延時操作的隊列管理


9. SynchronousQueue
    我們先來學習一下JDK1.5 API中關於這個類的詳細介紹：

    “一種阻塞隊列，其中每個插入操作必須等待另一個線程的對應移除操作 ，反之亦然。同步隊列沒有任何內部容量，甚至連一個隊列的容量都沒有。不能在同步隊列上進行 peek，因為僅在試圖要移除元素時，該元素才存在；除非另一個線程試圖移除某個元素，否則也不能（使用任何方法）插入元素；也不能迭代隊列，因為其中沒 有元素可用於迭代。隊列的頭 是嘗試添加到隊列中的首個已排隊插入線程的元素；如果沒有這樣的已排隊線程，則沒有可用於移除的元素並且 poll() 將會返回 null。對於其他 Collection 方法（例如 contains），SynchronousQueue 作為一個空 collection。此隊列不允許 null 元素。
    同步隊列類似於 CSP 和 Ada 中使用的 rendezvous 信道。它非常適合於傳遞性設計，在這種設計中，在一個線程中運行的對象要將某些信息、事件或任務傳遞給在另一個線程中運行的對象，它就必須與該對象同步。 “

    看起來很有意思吧。隊列竟然是沒有內部容量的。這個隊列其實是BlockingQueue的一種實現。每個插入操作必須等待另一個線程的對應移除操作，反之亦然。它給我們提供了在線程之間交換單一元素的極輕量級方法

   應用舉例：我們要在多個線程中傳遞一個變量。

   代碼如下（其實就是生產者消費者模式）

Java代碼  

1. import java.util.Arrays;  
2. import java.util.List;  
3. import java.util.concurrent.BlockingQueue;  
4. import java.util.concurrent.SynchronousQueue;  
5.   
6. public class TestSynchronousQueue {  
7.   
8.     class Producer implements Runnable {  
9.         private BlockingQueue<String> queue;  
10.         List<String> objects = Arrays.asList("one", "two", "three");  
11.   
12.         public Producer(BlockingQueue<String> q) {  
13.             this.queue = q;  
14.         }  
15.   
16.         @Override  
17.         public void run() {  
18.             try {  
19.                 for (String s : objects) {  
20.                     queue.put(s);// 產生數據放入隊列中  
21.                     System.out.printf("put:%s%n",s);  
22.                 }  
23.                 queue.put("Done");// 已完成的標志  
24.             } catch (InterruptedException e) {  
25.                 e.printStackTrace();  
26.             }  
27.         }  
28.     }  
29.   
30.     class Consumer implements Runnable {  
31.         private BlockingQueue<String> queue;  
32.   
33.         public Consumer(BlockingQueue<String> q) {  
34.             this.queue = q;  
35.         }  
36.   
37.         @Override  
38.         public void run() {  
39.             String obj = null;  
40.             try {  
41.                 while (!((obj = queue.take()).equals("Done"))) {  
42.                     System.out.println(obj);//從隊列中讀取對象  
43.                     Thread.sleep(3000);     //故意sleep，證明Producer是put不進去的  
44.                 }  
45.             } catch (InterruptedException e) {  
46.                 e.printStackTrace();  
47.             }  
48.         }  
49.     }  
50.   
51.     public static void main(String[] args) {  
52.         BlockingQueue<String> q=new SynchronousQueue<String>();  
53.         TestSynchronousQueue t=new TestSynchronousQueue();  
54.         new Thread(t.new Producer(q)).start();  
55.         new Thread(t.new Consumer(q)).start();  
56.     }  
57.   
58. } 
    

以下引用自：http://www.cnblogs.com/jackyuj/archive/2010/11/24/1886553.html
其中有很形象的解釋和示例

• 前言：

     在新增的Concurrent包中，BlockingQueue很好的解決了多線程中，如何高效安全“傳輸”數據的問題。通過這些高效並且線程安全的隊列 類，為我們快速搭建高質量的多線程程序帶來極大的便利。本文詳細介紹了BlockingQueue家庭中的所有成員，包括他們各自的功能以及常見使用場 景。

• 認識BlockingQueue
  阻塞隊列，顧名思義，首先它是一個隊列，而一個隊列在數據結構中所起的作用大致如下圖所示：
  
  從上圖我們可以很清楚看到，通過一個共享的隊列，可以使得數據由隊列的一端輸入，從另外一端輸出；
  常用的隊列主要有以下兩種：（當然通過不同的實現方式，還可以延伸出很多不同類型的隊列，DelayQueue就是其中的一種）
  　　先進先出（FIFO）：先插入的隊列的元素也最先出隊列，類似於排隊的功能。從某種程度上來說這種隊列也體現了一種公平性。
  　　后進先出（LIFO）：后插入隊列的元素最先出隊列，這種隊列優先處理最近發生的事件。
  
        多線程環境中，通過隊列可以很容易實現數據共享，比如經典的“生產者”和“消費者”模型中，通過隊列可以很便利地實現兩者之間的數據共享。假設我們有若 干生產者線程，另外又有若干個消費者線程。如果生產者線程需要把准備好的數據共享給消費者線程，利用隊列的方式來傳遞數據，就可以很方便地解決他們之間的 數據共享問題。但如果生產者和消費者在某個時間段內，萬一發生數據處理速度不匹配的情況呢？理想情況下，如果生產者產出數據的速度大於消費者消費的速度， 並且當生產出來的數據累積到一定程度的時候，那么生產者必須暫停等待一下（阻塞生產者線程），以便等待消費者線程把累積的數據處理完畢，反之亦然。然而， 在concurrent包發布以前，在多線程環境下，我們每個程序員都必須去自己控制這些細節，尤其還要兼顧效率和線程安全，而這會給我們的程序帶來不小 的復雜度。好在此時，強大的concurrent包橫空出世了，而他也給我們帶來了強大的BlockingQueue。（在多線程領域：所謂阻塞，在某些 情況下會掛起線程（即阻塞），一旦條件滿足，被掛起的線程又會自動被喚醒）
  下面兩幅圖演示了BlockingQueue的兩個常見阻塞場景：
  　　　　　　　如上圖所示：當隊列中沒有數據的情況下，消費者端的所有線程都會被自動阻塞（掛起），直到有數據放入隊列。
  
  
  　　　如上圖所示：當隊列中填滿數據的情況下，生產者端的所有線程都會被自動阻塞（掛起），直到隊列中有空的位置，線程被自動喚醒。
       這也是我們在多線程環境下，為什么需要BlockingQueue的原因。作為BlockingQueue的使用者，我們再也不需要關心什么時候需要阻塞 線程，什么時候需要喚醒線程，因為這一切BlockingQueue都給你一手包辦了。既然BlockingQueue如此神通廣大，讓我們一起來見識下 它的常用方法：
  BlockingQueue的核心方法：
  放入數據：
  　　offer(anObject):表示如果可能的話,將anObject加到BlockingQueue里,即如果BlockingQueue可以容納,
  　　　　則返回true,否則返回false.（本方法不阻塞當前執行方法的線程）
  　　offer(E o, long timeout, TimeUnit unit),可以設定等待的時間，如果在指定的時間內，還不能往隊列中
  　　　　加入BlockingQueue，則返回失敗。
  　　put(anObject):把anObject加到BlockingQueue里,如果BlockQueue沒有空間,則調用此方法的線程被阻斷
  　　　　直到BlockingQueue里面有空間再繼續.
  獲取數據：
  　　poll(time):取走BlockingQueue里排在首位的對象,若不能立即取出,則可以等time參數規定的時間,
  　　　　取不到時返回null;
  　　poll(long timeout, TimeUnit unit)：從BlockingQueue取出一個隊首的對象，如果在指定時間內，
  　　　　隊列一旦有數據可取，則立即返回隊列中的數據。否則知道時間超時還沒有數據可取，返回失敗。
  　　take():取走BlockingQueue里排在首位的對象,若BlockingQueue為空,阻斷進入等待狀態直到
  　　　　BlockingQueue有新的數據被加入; 
  　　drainTo():一次性從BlockingQueue獲取所有可用的數據對象（還可以指定獲取數據的個數）， 
  　　　　通過該方法，可以提升獲取數據效率；不需要多次分批加鎖或釋放鎖。

• 常見BlockingQueue
  在了解了BlockingQueue的基本功能后，讓我們來看看BlockingQueue家庭大致有哪些成員？ 
   

• BlockingQueue成員詳細介紹
  1. ArrayBlockingQueue
        基於數組的阻塞隊列實現，在ArrayBlockingQueue內部，維護了一個定長數組，以便緩存隊列中的數據對象，這是一個常用的阻塞隊列，除了 一個定長數組外，ArrayBlockingQueue內部還保存着兩個整形變量，分別標識着隊列的頭部和尾部在數組中的位置。
  　　 ArrayBlockingQueue在生產者放入數據和消費者獲取數據，都是共用同一個鎖對象，由此也意味着兩者無法真正並行運行，這點尤其不同於 LinkedBlockingQueue；按照實現原理來分析，ArrayBlockingQueue完全可以采用分離鎖，從而實現生產者和消費者操作的 完全並行運行。Doug Lea之所以沒這樣去做，也許是因為ArrayBlockingQueue的數據寫入和獲取操作已經足夠輕巧，以至於引入獨立的鎖機制，除了給代碼帶來額 外的復雜性外，其在性能上完全占不到任何便宜。 ArrayBlockingQueue和LinkedBlockingQueue間還有一個明顯的不同之處在於，前者在插入或刪除元素時不會產生或銷毀任 何額外的對象實例，而后者則會生成一個額外的Node對象。這在長時間內需要高效並發地處理大批量數據的系統中，其對於GC的影響還是存在一定的區別。而 在創建ArrayBlockingQueue時，我們還可以控制對象的內部鎖是否采用公平鎖，默認采用非公平鎖。
  
  2. LinkedBlockingQueue
        基於鏈表的阻塞隊列，同ArrayListBlockingQueue類似，其內部也維持着一個數據緩沖隊列（該隊列由一個鏈表構成），當生產者往隊列 中放入一個數據時，隊列會從生產者手中獲取數據，並緩存在隊列內部，而生產者立即返回；只有當隊列緩沖區達到最大值緩存容量時 （LinkedBlockingQueue可以通過構造函數指定該值），才會阻塞生產者隊列，直到消費者從隊列中消費掉一份數據，生產者線程會被喚醒，反 之對於消費者這端的處理也基於同樣的原理。而LinkedBlockingQueue之所以能夠高效的處理並發數據，還因為其對於生產者端和消費者端分別 采用了獨立的鎖來控制數據同步，這也意味着在高並發的情況下生產者和消費者可以並行地操作隊列中的數據，以此來提高整個隊列的並發性能。
  作為開 發 者，我們需要注意的是，如果構造一個LinkedBlockingQueue對象，而沒有指定其容量大小，LinkedBlockingQueue會默認 一個類似無限大小的容量（Integer.MAX_VALUE），這樣的話，如果生產者的速度一旦大於消費者的速度，也許還沒有等到隊列滿阻塞產生，系統 內存就有可能已被消耗殆盡了。
  
  ArrayBlockingQueue和LinkedBlockingQueue是兩個最普通也是最常用的阻塞隊列，一般情況下，在處理多線程間的生產者消費者問題，使用這兩個類足以。
  
  下面的代碼演示了如何使用BlockingQueue：
  

  01	import java.util.concurrent.BlockingQueue;

  02	import java.util.concurrent.ExecutorService;

  03	import java.util.concurrent.Executors;

  04	import java.util.concurrent.LinkedBlockingQueue;

  05

  06

  /**

  07	* @author jackyuj

  08

  */

  09	public class BlockingQueueTest {

  10

  11	public static void main(String[] args) throws InterruptedException {

  12	// 聲明一個容量為10的緩存隊列

  13	BlockingQueue<String> queue = new LinkedBlockingQueue<String>(10);

  14

  15	Producer producer1 = new Producer(queue);

  16	Producer producer2 = new Producer(queue);

  17	Producer producer3 = new Producer(queue);

  18	Consumer consumer = new Consumer(queue);

  19

  20	// 借助Executors

  21	ExecutorService service = Executors.newCachedThreadPool();

  22

  // 啟動線程

  23	service.execute(producer1);

  24	service.execute(producer2);

  25	service.execute(producer3);

  26	service.execute(consumer);

  27

  28

  // 執行10s

  29	Thread.sleep(10 * 1000);

  30	producer1.stop();

  31	producer2.stop();

  32	producer3.stop();

  33

  34	Thread.sleep(2000);

  35	// 退出Executor

  36	service.shutdown();

  37

  }

  38

  }

  01	import java.util.Random;

  02	import java.util.concurrent.BlockingQueue;

  03	import java.util.concurrent.TimeUnit;

  04

  05

  /**

  06

  * 消費者線程

  07

  *

  08	* @author jackyuj

  09

  */

  10	public class Consumer implements Runnable {

  11

  12	public Consumer(BlockingQueue<String> queue) {

  13	this.queue = queue;

  14

  }

  15

  16	public void run() {

  17	System.out.println("啟動消費者線程！");

  18	Random r = new Random();

  19	boolean isRunning = true;

  20

  try {

  21	while (isRunning) {

  22	System.out.println("正從隊列獲取數據...");

  23	String data = queue.poll(2, TimeUnit.SECONDS);

  24	if (null != data) {

  25	System.out.println("拿到數據：" + data);

  26	System.out.println("正在消費數據：" + data);

  27	Thread.sleep(r.nextInt(DEFAULT_RANGE_FOR_SLEEP));

  28

  } else {

  29	// 超過2s還沒數據，認為所有生產線程都已經退出，自動退出消費線程。

  30	isRunning = false;

  31

  }

  32

  }

  33	} catch (InterruptedException e) {

  34	e.printStackTrace();

  35	Thread.currentThread().interrupt();

  36	} finally {

  37	System.out.println("退出消費者線程！");

  38

  }

  39

  }

  40

  41	private BlockingQueue<String> queue;

  42	private static final int      DEFAULT_RANGE_FOR_SLEEP = 1000;

  43

  }

  44

  45	import java.util.Random;

  46	import java.util.concurrent.BlockingQueue;

  47	import java.util.concurrent.TimeUnit;

  48	import java.util.concurrent.atomic.AtomicInteger;

  49

  50

  /**

  51

  * 生產者線程

  52

  *

  53	* @author jackyuj

  54

  */

  55	public class Producer implements Runnable {

  56

  57	public Producer(BlockingQueue queue) {

  58	this.queue = queue;

  59

  }

  60

  61	public void run() {

  62	String data = null;

  63	Random r = new Random();

  64

  65	System.out.println("啟動生產者線程！");

  66

  try {

  67	while (isRunning) {

  68	System.out.println("正在生產數據...");

  69	Thread.sleep(r.nextInt(DEFAULT_RANGE_FOR_SLEEP));

  70

  71	data = "data:" + count.incrementAndGet();

  72	System.out.println("將數據：" + data + "放入隊列...");

  73	if (!queue.offer(data, 2, TimeUnit.SECONDS)) {

  74	System.out.println("放入數據失敗：" + data);

  75

  }

  76

  }

  77	} catch (InterruptedException e) {

  78	e.printStackTrace();

  79	Thread.currentThread().interrupt();

  80	} finally {

  81	System.out.println("退出生產者線程！");

  82

  }

  83

  }

  84

  85	public void stop() {

  86	isRunning = false;

  87

  }

  88

  89	private volatile boolean      isRunning               = true;

  90	private BlockingQueue queue;

  91	private static AtomicInteger  count                   = new AtomicInteger();

  92	private static final int      DEFAULT_RANGE_FOR_SLEEP = 1000;

  93

  94

  }

• 3. DelayQueue
        DelayQueue中的元素只有當其指定的延遲時間到了，才能夠從隊列中獲取到該元素。DelayQueue是一個沒有大小限制的隊列，因此往隊列中插入數據的操作（生產者）永遠不會被阻塞，而只有獲取數據的操作（消費者）才會被阻塞。
  使用場景：
  　　DelayQueue使用場景較少，但都相當巧妙，常見的例子比如使用一個DelayQueue來管理一個超時未響應的連接隊列。
  
  4. PriorityBlockingQueue
        基於優先級的阻塞隊列（優先級的判斷通過構造函數傳入的Compator對象來決定），但需要注意的是PriorityBlockingQueue並不 會阻塞數據生產者，而只會在沒有可消費的數據時，阻塞數據的消費者。因此使用的時候要特別注意，生產者生產數據的速度絕對不能快於消費者消費數據的速度， 否則時間一長，會最終耗盡所有的可用堆內存空間。在實現PriorityBlockingQueue時，內部控制線程同步的鎖采用的是公平鎖。
  
  5. SynchronousQueue
        一種無緩沖的等待隊列，類似於無中介的直接交易，有點像原始社會中的生產者和消費者，生產者拿着產品去集市銷售給產品的最終消費者，而消費者必須親自去 集市找到所要商品的直接生產者，如果一方沒有找到合適的目標，那么對不起，大家都在集市等待。相對於有緩沖的BlockingQueue來說，少了一個中 間經銷商的環節（緩沖區），如果有經銷商，生產者直接把產品批發給經銷商，而無需在意經銷商最終會將這些產品賣給那些消費者，由於經銷商可以庫存一部分商 品，因此相對於直接交易模式，總體來說采用中間經銷商的模式會吞吐量高一些（可以批量買賣）；但另一方面，又因為經銷商的引入，使得產品從生產者到消費者 中間增加了額外的交易環節，單個產品的及時響應性能可能會降低。
  　　聲明一個SynchronousQueue有兩種不同的方式，它們之間有着不太一樣的行為。公平模式和非公平模式的區別:
  　　如果采用公平模式：SynchronousQueue會采用公平鎖，並配合一個FIFO隊列來阻塞多余的生產者和消費者，從而體系整體的公平策略；
  　 　但如果是非公平模式（SynchronousQueue默認）：SynchronousQueue采用非公平鎖，同時配合一個LIFO隊列來管理多余的 生產者和消費者，而后一種模式，如果生產者和消費者的處理速度有差距，則很容易出現飢渴的情況，即可能有某些生產者或者是消費者的數據永遠都得不到處理。

• 小結
  　　BlockingQueue不光實現了一個完整隊列所具有的基本功能，同時在多線程環境下，他還自動管理了多線間的自動等待於喚醒功能，從而使得程序員可以忽略這些細節，關注更高級的功能。