高並發場景下的流控管理

本文轉載自查看原文 2016-04-27 21:55 2176 12.架構設計

任何應用都有一個設計指標，當應用的壓力超過了他設計所能承載的能力時，就好比一座只允許行人通過的獨木橋，是無法承載一輛坦克的重量的，這個時候，為了讓機器能夠繼續運行，在不宕機的情況下盡其所能的對一部分用戶提供服務，保證整個流程能夠繼續走下去，這個時候，就必須對應用進行流控，丟棄一部分用戶的請無法避免。

流控可以從多個維度來進行，比如針對QPS，並發線程數，黑白名單，加權分級等等，最典型最直接的便是針對QPS和並發線程數的流控。當然，要進行流控，首先等有一個流控的閥值，這個閥值不是說拍拍腦袋就能夠想出來，不同類型的應用，所面臨的情況不一樣，也沒有一個統一的衡量標准，必須經過多輪的壓力測試，才能夠得出一個比較靠譜的數值。

一、簡單的流控

1、使用Semphore進行並發流控

模擬代碼如下所示：

  Semaphore semphore = new Semaphore(10);  
  if(semphore.getQueueLength() > 10){  
   //等待隊列閥值為10時  
    return;  
  }  
  try {  
   semphore.acquire();  
       
   //干活  
       
  } catch (InterruptedException e) {  
       e.printStackTrace();  
  }finally{  
     semphore.release();//釋放  
  }

也可以參見：http://ifeve.com/concurrency-practice-1/

2、使用樂觀鎖加上下文切換進行流控

public void enter(Object obj){  
 
    boolean isUpdate = false;  
    int countValue = count.get();  
    if(countValue > 0){  
        isUpdate = count.compareAndSet(countValue, countValue -1);   
        if(isUpdate)return;  
    }  
  
    concurQueue.add(obj);  
  
    try {  
        obj.wait();  
    } catch (InterruptedException e) {  
        logger.error("flowcontrol thread was interrupted .......",e);  
    }  
    return ;  
 }  
  
public void release(){  
  
    synchronized(count){  
        if(count.get() < VALVE){  
            count.set(count.get() + 1);  
        }  
    }  
  
    Object obj = concurQueue.remove();  
    if(obj != null){  
        synchronized (obj) {  
            obj.notify();  
        }  
    }  
    System.out.println("notify ...............");  
    return ;  
}