使用multi curl進行http並發訪問

    curl是一款利用URL語法進行文件傳輸的工具，它支持多種協議，包括FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET等，我們既可以在命令行上使用它，也可以利用 libcurl進行相關編程。相信大部分同學都應該使用過libcurl的easy 接口，easy接口的使用非常的簡單，curl_easy_init用來初始化一個easy curl對象，curl_easy_setopt對easy curl對象進行相關設置，最后curl_easy_perform執行curl請求，返回相應結果。easy接口是阻塞的，也就是說必須等到上一個curl請求執行完后，下一個curl請求才能繼續執行，在一般的應用場合，這種阻塞的訪問方式是沒有問題的，但是當程序需要進行多次curl並發請求的時候，easy接口就無能為力了，這個時候curl提供的multi接口就派上用場了，網上關於libcurl的multi接口的使用資料比較少（百度出來的大部分都是php multi curl的資料），curl官網上貌似也只有相關函數的說明，有實際demo才能讓我們更快速的上手使用，所以下面結合實際例子來講講multi curl接口的使用方法。

    相比而言，multi接口的使用會比easy 接口稍微復雜點，畢竟multi接口是依賴easy接口的，首先粗略的講下其使用流程：curl_multi _init初始化一個multi curl對象，為了同時進行多個curl的並發訪問，我們需要初始化多個easy curl對象，使用curl_easy_setopt進行相關設置，然后調用curl_multi _add_handle把easy curl對象添加到multi curl對象中，添加完畢后執行curl_multi_perform方法進行並發的訪問，訪問結束后curl_multi_remove_handle移除相關easy curl對象，curl_easy_cleanup清除easy curl對象，最后curl_multi_cleanup清除multi curl對象。

    上面的介紹只是給大家一個大概的印象，實際使用中還有很多細節需要注意，好了，代碼才能說明一切，下面的例子使用multi curl方式進行多次http並發訪問，並輸出訪問結果。

#include <string>
#include <iostream>

#include <curl/curl.h>
#include <sys/time.h>
#include <unistd.h>

using namespace std;

size_t curl_writer(void *buffer, size_t size, size_t count, void * stream)
{
    std::string * pStream = static_cast<std::string *>(stream);
    (*pStream).append((char *)buffer, size * count);

    return size * count;
};

/**
 * 生成一個easy curl對象，進行一些簡單的設置操作
 */
CURL * curl_easy_handler(const std::string & sUrl,
                         const std::string & sProxy,
                         std::string & sRsp,
                         unsigned int uiTimeout)
{
    CURL * curl = curl_easy_init();

    curl_easy_setopt(curl, CURLOPT_URL, sUrl.c_str());
    curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1);

    if (uiTimeout > 0)
    {
        curl_easy_setopt(curl, CURLOPT_TIMEOUT_MS, uiTimeout);
    }
    if (!sProxy.empty())
    {
        curl_easy_setopt(curl, CURLOPT_PROXY, sProxy.c_str());
    }

    // write function //
    curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, curl_writer);
    curl_easy_setopt(curl, CURLOPT_WRITEDATA, &sRsp);

    return curl;
}

/**
 * 使用select函數監聽multi curl文件描述符的狀態
 * 監聽成功返回0，監聽失敗返回-1
 */
int curl_multi_select(CURLM * curl_m)
{
    int ret = 0;

    struct timeval timeout_tv;
    fd_set  fd_read;
    fd_set  fd_write;
    fd_set  fd_except;
    int     max_fd = -1;

    // 注意這里一定要清空fdset,curl_multi_fdset不會執行fdset的清空操作  //
    FD_ZERO(&fd_read);
    FD_ZERO(&fd_write);
    FD_ZERO(&fd_except);

    // 設置select超時時間  //
    timeout_tv.tv_sec = 1;
    timeout_tv.tv_usec = 0;

    // 獲取multi curl需要監聽的文件描述符集合 fd_set //
    curl_multi_fdset(curl_m, &fd_read, &fd_write, &fd_except, &max_fd);

    /**
     * When max_fd returns with -1,
     * you need to wait a while and then proceed and call curl_multi_perform anyway.
     * How long to wait? I would suggest 100 milliseconds at least,
     * but you may want to test it out in your own particular conditions to find a suitable value.
     */
    if (-1 == max_fd)
    {
        return -1;
    }

    /**
     * 執行監聽，當文件描述符狀態發生改變的時候返回
     * 返回0，程序調用curl_multi_perform通知curl執行相應操作
     * 返回-1，表示select錯誤
     * 注意：即使select超時也需要返回0，具體可以去官網看文檔說明
     */
    int ret_code = ::select(max_fd + 1, &fd_read, &fd_write, &fd_except, &timeout_tv);
    switch(ret_code)
    {
    case -1:
        /* select error */
        ret = -1;
        break;
    case 0:
        /* select timeout */
    default:
        /* one or more of curl's file descriptors say there's data to read or write*/
        ret = 0;
        break;
    }

    return ret;
}

#define MULTI_CURL_NUM 3

// 這里設置你需要訪問的url //
std::string     URL     = "http://website.com";
// 這里設置代理ip和端口  //
std::string     PROXY   = "ip:port";
// 這里設置超時時間  //
unsigned int    TIMEOUT = 2000; /* ms */

/**
 * multi curl使用demo
 */
int curl_multi_demo(int num)
{
    // 初始化一個multi curl 對象 //
    CURLM * curl_m = curl_multi_init();

    std::string     RspArray[num];
    CURL *          CurlArray[num];

    // 設置easy curl對象並添加到multi curl對象中  //
    for (int idx = 0; idx < num; ++idx)
    {
        CurlArray[idx] = NULL;
        CurlArray[idx] = curl_easy_handler(URL, PROXY, RspArray[idx], TIMEOUT);
        if (CurlArray[idx] == NULL)
        {
            return -1;
        }
        curl_multi_add_handle(curl_m, CurlArray[idx]);
    }

    /*
     * 調用curl_multi_perform函數執行curl請求
     * url_multi_perform返回CURLM_CALL_MULTI_PERFORM時，表示需要繼續調用該函數直到返回值不是CURLM_CALL_MULTI_PERFORM為止
     * running_handles變量返回正在處理的easy curl數量，running_handles為0表示當前沒有正在執行的curl請求
     */
    int running_handles;
    while (CURLM_CALL_MULTI_PERFORM == curl_multi_perform(curl_m, &running_handles))
    {
        cout << running_handles << endl;
    }

    /**
     * 為了避免循環調用curl_multi_perform產生的cpu持續占用的問題，采用select來監聽文件描述符
     */
    while (running_handles)
    {
        if (-1 == curl_multi_select(curl_m))
        {
            cerr << "select error" << endl;
            break;
        } else {
            // select監聽到事件，調用curl_multi_perform通知curl執行相應的操作 //
            while (CURLM_CALL_MULTI_PERFORM == curl_multi_perform(curl_m, &running_handles))
            {
                cout << "select: " << running_handles << endl;
            }
        }
        cout << "select: " << running_handles << endl;
    }

    // 輸出執行結果 //
    int         msgs_left;
    CURLMsg *   msg;
    while((msg = curl_multi_info_read(curl_m, &msgs_left)))
    {
        if (CURLMSG_DONE == msg->msg)
        {
            int idx;
            for (idx = 0; idx < num; ++idx)
            {
                if (msg->easy_handle == CurlArray[idx]) break;
            }

            if (idx == num)
            {
                cerr << "curl not found" << endl;
            } else
            {
                cout << "curl [" << idx << "] completed with status: "
                        << msg->data.result << endl;
                cout << "rsp: " << RspArray[idx] << endl;
            }
        }
    }

    // 這里要注意cleanup的順序 //
    for (int idx = 0; idx < num; ++idx)
    {
        curl_multi_remove_handle(curl_m, CurlArray[idx]);
    }

    for (int idx = 0; idx < num; ++idx)
    {
        curl_easy_cleanup(CurlArray[idx]);
    }

    curl_multi_cleanup(curl_m);

    return 0;
}

/**
 * easy curl使用demo
 */
int curl_easy_demo(int num)
{
    std::string     RspArray[num];

    for (int idx = 0; idx < num; ++idx)
    {
        CURL * curl = curl_easy_handler(URL, PROXY, RspArray[idx], TIMEOUT);
        CURLcode code = curl_easy_perform(curl);
        cout << "curl [" << idx << "] completed with status: "
                << code << endl;
        cout << "rsp: " << RspArray[idx] << endl;

        // clear handle //
        curl_easy_cleanup(curl);
    }

    return 0;
}

#define USE_MULTI_CURL

struct timeval begin_tv, end_tv;

int main(int argc, char * argv[])
{
    if (argc < 2)
    {
        return -1;
    }
    int num = atoi(argv[1]);

    // 獲取開始時間 //
    gettimeofday(&begin_tv, NULL);
#ifdef USE_MULTI_CURL
    // 使用multi接口進行訪問 //
    curl_multi_demo(num);
#else
    // 使用easy接口進行訪問 //
    curl_easy_demo(num);
#endif
    // 獲取結束時間  //
    struct timeval end_tv;
    gettimeofday(&end_tv, NULL);

    // 計算執行延時並輸出，用於比較  //
    int eclapsed = (end_tv.tv_sec - begin_tv.tv_sec) * 1000 +
                   (end_tv.tv_usec - begin_tv.tv_usec) / 1000;

    cout << "eclapsed time:" << eclapsed << "ms" << endl;

    return 0;
}