先上一個場景:假如你突然想做飯,但是沒有廚具,也沒有食材。網上購買廚具比較方便,食材去超市買更放心。
實現分析:在快遞員送廚具的期間,我們肯定不會閑着,可以去超市買食材。所以,在主線程里面另起一個子線程去網購廚具。
但是,子線程執行的結果是要返回廚具的,而run方法是沒有返回值的。所以,這才是難點,需要好好考慮一下。
模擬代碼1:
package test;public class CommonCook {
</span><span style="color: #0000ff;">public</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">void</span> main(String[] args) <span style="color: #0000ff;">throws</span><span style="color: #000000;"> InterruptedException { </span><span style="color: #0000ff;">long</span> startTime =<span style="color: #000000;"> System.currentTimeMillis(); </span><span style="color: #008000;">//</span><span style="color: #008000;"> 第一步 網購廚具</span> OnlineShopping thread = <span style="color: #0000ff;">new</span><span style="color: #000000;"> OnlineShopping(); thread.start(); thread.join(); </span><span style="color: #008000;">//</span><span style="color: #008000;"> 保證廚具送到 </span><span style="color: #008000;">//</span><span style="color: #008000;"> 第二步 去超市購買食材</span> Thread.sleep(2000); <span style="color: #008000;">//</span><span style="color: #008000;"> 模擬購買食材時間</span> Shicai shicai = <span style="color: #0000ff;">new</span><span style="color: #000000;"> Shicai(); System.out.println(</span>"第二步:食材到位"<span style="color: #000000;">); </span><span style="color: #008000;">//</span><span style="color: #008000;"> 第三步 用廚具烹飪食材</span> System.out.println("第三步:開始展現廚藝"<span style="color: #000000;">); cook(thread.chuju, shicai); System.out.println(</span>"總共用時" + (System.currentTimeMillis() - startTime) + "ms"<span style="color: #000000;">); } </span><span style="color: #008000;">//</span><span style="color: #008000;"> 網購廚具線程</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">class</span> OnlineShopping <span style="color: #0000ff;">extends</span><span style="color: #000000;"> Thread { </span><span style="color: #0000ff;">private</span><span style="color: #000000;"> Chuju chuju; @Override </span><span style="color: #0000ff;">public</span> <span style="color: #0000ff;">void</span><span style="color: #000000;"> run() { System.out.println(</span>"第一步:下單"<span style="color: #000000;">); System.out.println(</span>"第一步:等待送貨"<span style="color: #000000;">); </span><span style="color: #0000ff;">try</span><span style="color: #000000;"> { Thread.sleep(</span>5000); <span style="color: #008000;">//</span><span style="color: #008000;"> 模擬送貨時間</span> } <span style="color: #0000ff;">catch</span><span style="color: #000000;"> (InterruptedException e) { e.printStackTrace(); } System.out.println(</span>"第一步:快遞送到"<span style="color: #000000;">); chuju </span>= <span style="color: #0000ff;">new</span><span style="color: #000000;"> Chuju(); } } </span><span style="color: #008000;">//</span><span style="color: #008000;"> 用廚具烹飪食材</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">void</span><span style="color: #000000;"> cook(Chuju chuju, Shicai shicai) {} </span><span style="color: #008000;">//</span><span style="color: #008000;"> 廚具類</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">class</span><span style="color: #000000;"> Chuju {} </span><span style="color: #008000;">//</span><span style="color: #008000;"> 食材類</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">class</span><span style="color: #000000;"> Shicai {}
}
運行結果:
第一步:下單
第一步:等待送貨
第一步:快遞送到
第二步:食材到位
第三步:開始展現廚藝
總共用時7013ms
可以看到,多線程已經失去了意義。在廚具送到期間,我們不能干任何事。對應代碼,就是調用join方法阻塞主線程。
有人問了,不阻塞主線程行不行???
不行!!!
從代碼來看的話,run方法不執行完,屬性chuju就沒有被賦值,還是null。換句話說,沒有廚具,怎么做飯。
Java現在的多線程機制,核心方法run是沒有返回值的;如果要保存run方法里面的計算結果,必須等待run方法計算完,無論計算過程多么耗時。
面對這種尷尬的處境,程序員就會想:在子線程run方法計算的期間,能不能在主線程里面繼續異步執行???
Where there is a will,there is a way!!!
這種想法的核心就是Future模式,下面先應用一下Java自己實現的Future模式。
模擬代碼2:
package test;import java.util.concurrent.Callable;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.FutureTask;public class FutureCook {
</span><span style="color: #0000ff;">public</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">void</span> main(String[] args) <span style="color: #0000ff;">throws</span><span style="color: #000000;"> InterruptedException, ExecutionException { </span><span style="color: #0000ff;">long</span> startTime =<span style="color: #000000;"> System.currentTimeMillis(); </span><span style="color: #008000;">//</span><span style="color: #008000;"> 第一步 網購廚具</span> Callable<Chuju> onlineShopping = <span style="color: #0000ff;">new</span> Callable<Chuju><span style="color: #000000;">() { @Override </span><span style="color: #0000ff;">public</span> Chuju call() <span style="color: #0000ff;">throws</span><span style="color: #000000;"> Exception { System.out.println(</span>"第一步:下單"<span style="color: #000000;">); System.out.println(</span>"第一步:等待送貨"<span style="color: #000000;">); Thread.sleep(</span>5000); <span style="color: #008000;">//</span><span style="color: #008000;"> 模擬送貨時間</span> System.out.println("第一步:快遞送到"<span style="color: #000000;">); </span><span style="color: #0000ff;">return</span> <span style="color: #0000ff;">new</span><span style="color: #000000;"> Chuju(); } }; FutureTask</span><Chuju> task = <span style="color: #0000ff;">new</span> FutureTask<Chuju><span style="color: #000000;">(onlineShopping); </span><span style="color: #0000ff;">new</span><span style="color: #000000;"> Thread(task).start(); </span><span style="color: #008000;">//</span><span style="color: #008000;"> 第二步 去超市購買食材</span> Thread.sleep(2000); <span style="color: #008000;">//</span><span style="color: #008000;"> 模擬購買食材時間</span> Shicai shicai = <span style="color: #0000ff;">new</span><span style="color: #000000;"> Shicai(); System.out.println(</span>"第二步:食材到位"<span style="color: #000000;">); </span><span style="color: #008000;">//</span><span style="color: #008000;"> 第三步 用廚具烹飪食材</span> <span style="color: #0000ff;">if</span> (!task.isDone()) { <span style="color: #008000;">//</span><span style="color: #008000;"> 聯系快遞員,詢問是否到貨</span> System.out.println("第三步:廚具還沒到,心情好就等着(心情不好就調用cancel方法取消訂單)"<span style="color: #000000;">); } Chuju chuju </span>=<span style="color: #000000;"> task.get(); System.out.println(</span>"第三步:廚具到位,開始展現廚藝"<span style="color: #000000;">); cook(chuju, shicai); System.out.println(</span>"總共用時" + (System.currentTimeMillis() - startTime) + "ms"<span style="color: #000000;">); } </span><span style="color: #008000;">//</span><span style="color: #008000;"> 用廚具烹飪食材</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">void</span><span style="color: #000000;"> cook(Chuju chuju, Shicai shicai) {} </span><span style="color: #008000;">//</span><span style="color: #008000;"> 廚具類</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">class</span><span style="color: #000000;"> Chuju {} </span><span style="color: #008000;">//</span><span style="color: #008000;"> 食材類</span> <span style="color: #0000ff;">static</span> <span style="color: #0000ff;">class</span><span style="color: #000000;"> Shicai {}
}
運行結果:
第一步:下單
第一步:等待送貨
第二步:食材到位
第三步:廚具還沒到,心情好就等着(心情不好就調用cancel方法取消訂單)
第一步:快遞送到
第三步:廚具到位,開始展現廚藝
總共用時5005ms
可以看見,在快遞員送廚具的期間,我們沒有閑着,可以去買食材;而且我們知道廚具到沒到,甚至可以在廚具沒到的時候,取消訂單不要了。
好神奇,有沒有。
下面具體分析一下第二段代碼:
1)把耗時的網購廚具邏輯,封裝到了一個Callable的call方法里面。
public interface Callable<V> { /** * Computes a result, or throws an exception if unable to do so. * * @return computed result * @throws Exception if unable to compute a result */ V call() throws Exception; }
Callable接口可以看作是Runnable接口的補充,call方法帶有返回值,並且可以拋出異常。
2)把Callable實例當作參數,生成一個FutureTask的對象,然后把這個對象當作一個Runnable,作為參數另起線程。
public class FutureTask<V> implements RunnableFuture<V>
public interface RunnableFuture<V> extends Runnable, Future<V>
public interface Future<V> {</span><span style="color: #0000ff;">boolean</span> cancel(<span style="color: #0000ff;">boolean</span><span style="color: #000000;"> mayInterruptIfRunning); </span><span style="color: #0000ff;">boolean</span><span style="color: #000000;"> isCancelled(); </span><span style="color: #0000ff;">boolean</span><span style="color: #000000;"> isDone(); V get() </span><span style="color: #0000ff;">throws</span><span style="color: #000000;"> InterruptedException, ExecutionException; V get(</span><span style="color: #0000ff;">long</span><span style="color: #000000;"> timeout, TimeUnit unit) </span><span style="color: #0000ff;">throws</span><span style="color: #000000;"> InterruptedException, ExecutionException, TimeoutException;
}
這個繼承體系中的核心接口是Future。Future的核心思想是:一個方法f,計算過程可能非常耗時,等待f返回,顯然不明智。可以在調用f的時候,立馬返回一個Future,可以通過Future這個數據結構去控制方法f的計算過程。
這里的控制包括:
get方法:獲取計算結果(如果還沒計算完,也是必須等待的)
cancel方法:還沒計算完,可以取消計算過程
isDone方法:判斷是否計算完
isCancelled方法:判斷計算是否被取消
這些接口的設計很完美,FutureTask的實現注定不會簡單,后面再說。
3)在第三步里面,調用了isDone方法查看狀態,然后直接調用task.get方法獲取廚具,不過這時還沒送到,所以還是會等待3秒。對比第一段代碼的執行結果,這里我們節省了2秒。這是因為在快遞員送貨期間,我們去超市購買食材,這兩件事在同一時間段內異步執行。
通過以上3步,我們就完成了對Java原生Future模式最基本的應用。下面具體分析下FutureTask的實現,先看JDK8的,再比較一下JDK6的實現。
既然FutureTask也是一個Runnable,那就看看它的run方法
public void run() { if (state != NEW || !UNSAFE.compareAndSwapObject(this, runnerOffset, null, Thread.currentThread())) return; try { Callable<V> c = callable; // 這里的callable是從構造方法里面傳人的 if (c != null && state == NEW) { V result; boolean ran; try { result = c.call(); ran = true; } catch (Throwable ex) { result = null; ran = false; setException(ex); // 保存call方法拋出的異常 } if (ran) set(result); // 保存call方法的執行結果 } } finally { // runner must be non-null until state is settled to // prevent concurrent calls to run() runner = null; // state must be re-read after nulling runner to prevent // leaked interrupts int s = state; if (s >= INTERRUPTING) handlePossibleCancellationInterrupt(s); } }
先看try語句塊里面的邏輯,發現run方法的主要邏輯就是運行Callable的call方法,然后將保存結果或者異常(用的一個屬性result)。這里比較難想到的是,將call方法拋出的異常也保存起來了。
這里表示狀態的屬性state是個什么鬼
* Possible state transitions: * NEW -> COMPLETING -> NORMAL * NEW -> COMPLETING -> EXCEPTIONAL * NEW -> CANCELLED * NEW -> INTERRUPTING -> INTERRUPTED */ private volatile int state; private static final int NEW = 0; private static final int COMPLETING = 1; private static final int NORMAL = 2; private static final int EXCEPTIONAL = 3; private static final int CANCELLED = 4; private static final int INTERRUPTING = 5; private static final int INTERRUPTED = 6;
把FutureTask看作一個Future,那么它的作用就是控制Callable的call方法的執行過程,在執行的過程中自然會有狀態的轉換:
1)一個FutureTask新建出來,state就是NEW狀態;COMPETING和INTERRUPTING用的進行時,表示瞬時狀態,存在時間極短(為什么要設立這種狀態???不解);NORMAL代表順利完成;EXCEPTIONAL代表執行過程出現異常;CANCELED代表執行過程被取消;INTERRUPTED被中斷
2)執行過程順利完成:NEW -> COMPLETING -> NORMAL
3)執行過程出現異常:NEW -> COMPLETING -> EXCEPTIONAL
4)執行過程被取消:NEW -> CANCELLED
5)執行過程中,線程中斷:NEW -> INTERRUPTING -> INTERRUPTED
代碼中狀態判斷、CAS操作等細節,請讀者自己閱讀。
再看看get方法的實現:
public V get() throws InterruptedException, ExecutionException { int s = state; if (s <= COMPLETING) s = awaitDone(false, 0L); return report(s); }
private int awaitDone(boolean timed, long nanos) throws InterruptedException { final long deadline = timed ? System.nanoTime() + nanos : 0L; WaitNode q = null; boolean queued = false; for (;;) { if (Thread.interrupted()) { removeWaiter(q); throw new InterruptedException(); }</span><span style="color: #0000ff;">int</span> s =<span style="color: #000000;"> state; </span><span style="color: #0000ff;">if</span> (s ><span style="color: #000000;"> COMPLETING) { </span><span style="color: #0000ff;">if</span> (q != <span style="color: #0000ff;">null</span><span style="color: #000000;">) q.thread </span>= <span style="color: #0000ff;">null</span><span style="color: #000000;">; </span><span style="color: #0000ff;">return</span><span style="color: #000000;"> s; } </span><span style="color: #0000ff;">else</span> <span style="color: #0000ff;">if</span> (s == COMPLETING) <span style="color: #008000;">//</span><span style="color: #008000;"> cannot time out yet</span>
Thread.yield();
else if (q == null)
q = new WaitNode();
else if (!queued)
queued = UNSAFE.compareAndSwapObject(this, waitersOffset,
q.next = waiters, q);
else if (timed) {
nanos = deadline - System.nanoTime();
if (nanos <= 0L) {
removeWaiter(q);
return state;
}
LockSupport.parkNanos(this, nanos);
}
else
LockSupport.park(this);
}
}
get方法的邏輯很簡單,如果call方法的執行過程已完成,就把結果給出去;如果未完成,就將當前線程掛起等待。awaitDone方法里面死循環的邏輯,推演幾遍就能弄懂;它里面掛起線程的主要創新是定義了WaitNode類,來將多個等待線程組織成隊列,這是與JDK6的實現最大的不同。
掛起的線程何時被喚醒:
private void finishCompletion() { // assert state > COMPLETING; for (WaitNode q; (q = waiters) != null;) { if (UNSAFE.compareAndSwapObject(this, waitersOffset, q, null)) { for (;;) { Thread t = q.thread; if (t != null) { q.thread = null; LockSupport.unpark(t); // 喚醒線程 } WaitNode next = q.next; if (next == null) break; q.next = null; // unlink to help gc q = next; } break; } }done(); callable </span>= <span style="color: #0000ff;">null</span>; <span style="color: #008000;">//</span><span style="color: #008000;"> to reduce footprint</span> }</pre>
以上就是JDK8的大體實現邏輯,像cancel、set等方法,也請讀者自己閱讀。
再來看看JDK6的實現。
JDK6的FutureTask的基本操作都是通過自己的內部類Sync來實現的,而Sync繼承自AbstractQueuedSynchronizer這個出鏡率極高的並發工具類
/** State value representing that task is running */ private static final int RUNNING = 1; /** State value representing that task ran */ private static final int RAN = 2; /** State value representing that task was cancelled */ private static final int CANCELLED = 4;</span><span style="color: #008000;">/**</span><span style="color: #008000;"> The underlying callable </span><span style="color: #008000;">*/</span> <span style="color: #0000ff;">private</span> <span style="color: #0000ff;">final</span> Callable<V><span style="color: #000000;"> callable; </span><span style="color: #008000;">/**</span><span style="color: #008000;"> The result to return from get() </span><span style="color: #008000;">*/</span> <span style="color: #0000ff;">private</span><span style="color: #000000;"> V result; </span><span style="color: #008000;">/**</span><span style="color: #008000;"> The exception to throw from get() </span><span style="color: #008000;">*/</span> <span style="color: #0000ff;">private</span> Throwable exception;</pre>
里面的狀態只有基本的幾個,而且計算結果和異常是分開保存的。
V innerGet() throws InterruptedException, ExecutionException { acquireSharedInterruptibly(0); if (getState() == CANCELLED) throw new CancellationException(); if (exception != null) throw new ExecutionException(exception); return result; }
這個get方法里面處理等待線程隊列的方式是調用了acquireSharedInterruptibly方法,看過我之前幾篇博客文章的讀者應該非常熟悉了。其中的等待線程隊列、線程掛起和喚醒等邏輯,這里不再贅述,如果不明白,請出門左轉。
最后來看看,Future模式衍生出來的更高級的應用。
再上一個場景:我們自己寫一個簡單的數據庫連接池,能夠復用數據庫連接,並且能在高並發情況下正常工作。
實現代碼1:
package test;import java.util.concurrent.ConcurrentHashMap;
public class ConnectionPool {
</span><span style="color: #0000ff;">private</span> ConcurrentHashMap<String, Connection> pool = <span style="color: #0000ff;">new</span> ConcurrentHashMap<String, Connection><span style="color: #000000;">(); </span><span style="color: #0000ff;">public</span><span style="color: #000000;"> Connection getConnection(String key) { Connection conn </span>= <span style="color: #0000ff;">null</span><span style="color: #000000;">; </span><span style="color: #0000ff;">if</span><span style="color: #000000;"> (pool.containsKey(key)) { conn </span>=<span style="color: #000000;"> pool.get(key); } </span><span style="color: #0000ff;">else</span><span style="color: #000000;"> { conn </span>=<span style="color: #000000;"> createConnection(); pool.putIfAbsent(key, conn); } </span><span style="color: #0000ff;">return</span><span style="color: #000000;"> conn; } </span><span style="color: #0000ff;">public</span><span style="color: #000000;"> Connection createConnection() { </span><span style="color: #0000ff;">return</span> <span style="color: #0000ff;">new</span><span style="color: #000000;"> Connection(); } </span><span style="color: #0000ff;">class</span><span style="color: #000000;"> Connection {}
}
我們用了ConcurrentHashMap,這樣就不必把getConnection方法置為synchronized(當然也可以用Lock),當多個線程同時調用getConnection方法時,性能大幅提升。
貌似很完美了,但是有可能導致多余連接的創建,推演一遍:
某一時刻,同時有3個線程進入getConnection方法,調用pool.containsKey(key)都返回false,然后3個線程各自都創建了連接。雖然ConcurrentHashMap的put方法只會加入其中一個,但還是生成了2個多余的連接。如果是真正的數據庫連接,那會造成極大的資源浪費。
所以,我們現在的難點是:如何在多線程訪問getConnection方法時,只執行一次createConnection。
結合之前Future模式的實現分析:當3個線程都要創建連接的時候,如果只有一個線程執行createConnection方法創建一個連接,其它2個線程只需要用這個連接就行了。再延伸,把createConnection方法放到一個Callable的call方法里面,然后生成FutureTask。我們只需要讓一個線程執行FutureTask的run方法,其它的線程只執行get方法就好了。
上代碼:
package test;import java.util.concurrent.Callable;
import java.util.concurrent.ConcurrentHashMap;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.FutureTask;public class ConnectionPool {
</span><span style="color: #0000ff;">private</span> ConcurrentHashMap<String, FutureTask<Connection>> pool = <span style="color: #0000ff;">new</span> ConcurrentHashMap<String, FutureTask<Connection>><span style="color: #000000;">(); </span><span style="color: #0000ff;">public</span> Connection getConnection(String key) <span style="color: #0000ff;">throws</span><span style="color: #000000;"> InterruptedException, ExecutionException { FutureTask</span><Connection> connectionTask =<span style="color: #000000;"> pool.get(key); </span><span style="color: #0000ff;">if</span> (connectionTask != <span style="color: #0000ff;">null</span><span style="color: #000000;">) { </span><span style="color: #0000ff;">return</span><span style="color: #000000;"> connectionTask.get(); } </span><span style="color: #0000ff;">else</span><span style="color: #000000;"> { Callable</span><Connection> callable = <span style="color: #0000ff;">new</span> Callable<Connection><span style="color: #000000;">() { @Override </span><span style="color: #0000ff;">public</span> Connection call() <span style="color: #0000ff;">throws</span><span style="color: #000000;"> Exception { </span><span style="color: #0000ff;">return</span><span style="color: #000000;"> createConnection(); } }; FutureTask</span><Connection> newTask = <span style="color: #0000ff;">new</span> FutureTask<Connection><span style="color: #000000;">(callable); connectionTask </span>=<span style="color: #000000;"> pool.putIfAbsent(key, newTask); </span><span style="color: #0000ff;">if</span> (connectionTask == <span style="color: #0000ff;">null</span><span style="color: #000000;">) { connectionTask </span>=<span style="color: #000000;"> newTask; connectionTask.run(); } </span><span style="color: #0000ff;">return</span><span style="color: #000000;"> connectionTask.get(); } } </span><span style="color: #0000ff;">public</span><span style="color: #000000;"> Connection createConnection() { </span><span style="color: #0000ff;">return</span> <span style="color: #0000ff;">new</span><span style="color: #000000;"> Connection(); } </span><span style="color: #0000ff;">class</span><span style="color: #000000;"> Connection { }
}
推演一遍:當3個線程同時進入else語句塊時,各自都創建了一個FutureTask,但是ConcurrentHashMap只會加入其中一個。第一個線程執行pool.putIfAbsent方法后返回null,然后connectionTask被賦值,接着就執行run方法去創建連接,最后get。后面的線程執行pool.putIfAbsent方法不會返回null,就只會執行get方法。
在並發的環境下,通過FutureTask作為中間轉換,成功實現了讓某個方法只被一個線程執行。
就這么多吧,真是嘔心瀝血啊!!!哈哈
-------------------------------------------------------------------------------------------------------------
最后這個場景有問題,具體請看下篇文章 !!!