springboot~高並發下耗時操作的實現

高並發下的耗時操作

官方文檔中說DeferredResult和Callable都是為了異步生成返回值提供基本的支持。簡單來說就是一個請求進來，如果你使用了DeferredResult或者Callable，在沒有得到返回數據之前，DispatcherServlet和所有Filter就會退出Servlet容器線程，但響應保持打開狀態，一旦返回數據有了，這個DispatcherServlet就會被再次調用並且處理，以異步產生的方式，向請求端返回值。
這么做的好處就是請求不會長時間占用服務連接池，提高服務器的吞吐量。

高並發下，就是請求在一個時間點比較多時，很多寫的請求打過來時，你的服務器承受很大的壓力，當你的一個請求處理時間長時，這些請求將會把你的服務器線程耗盡，即你的主線程池里的線程將不會再有空閑狀態的，再打過來的請求，將會是502了。

請求流程圖

http1        http2                http3
thread1    thread2            thread3

解決方案

使用DeferredResult來實現異步的操作，當一個請求打過來時，先把它放到一個隊列時，然后在后台有一個訂閱者，有相關主題的消息發過來時，這個訂閱者就去消費它，這一步可以是分布式的，比如一個秒殺場景，當N多的請求打過來時，有一些請求命中后，它們進行寫操作，這時寫操作壓力很大，1個請求可以要處理3秒，對於高並發場景這是不能容許的，因為你這樣占用的服務器線程資源太長了，很快你的服務器就沒有可用的線程資源了，這時就可以用到DeferredResult這處理。

代碼實現

建立訂單的接口，只負責簡單的校驗和事件的發布

   /**
     * 異步建立高並發的訂單.
     *
     * @return
     */
    @GetMapping("/create-order")
    public DeferredResult<Object> createOrder() {
        DeferredResult<Object> deferredResult = new DeferredResult<>((long) 3000, "error order");
        logger.info("發布建立訂單的事件");
        applicationEventPublisher.publishEvent(deferredResult);
        return deferredResult;
    }

異步的訂單處理核心邏輯，也是耗時的操作

@Component
@EnableAsync
public class OrderListener {

    static Logger logger = LoggerFactory.getLogger(OrderListener.class);

    /**
     * 事實上它是一個訂單隊列的消費者，在后台寫訂單，本例使用簡單的事件監聽器實現異步處理的功能.
     *
     * @return
     */
    @EventListener
    @Async
    public String processOrder(DeferredResult<Object> deferredResult) throws InterruptedException {
        logger.info("處理訂單並返回到對應的Http上下文");
        String order = UUID.randomUUID().toString();
        Thread.sleep(2000);//假設處理數據需要5秒，前端需要阻塞5秒，但http主線程已經釋放了，比較適合IO密集型場合
        //當設置之后，create-order將成功響應
        deferredResult.setResult(order);
        return order;
    }
}

測試結果

當請求/create-order后，服務器在處理2秒后，返回結果，而spring后台真正做的是，線程1在事件發布后，它成為空閑狀態，其它請求可以復用它，當processOrder后台處理結果后，spring又會用線程池中拿一個新的線程處理剩下的邏輯！