linux epoll事件模型詳解

一、介紹

    epoll是Linux(內核版本2.6及以上支持)下多路復用IO接口select/poll的增強版本，它能顯著提高程序在大量並發連接中只有少量活躍的情況下的系統CPU利用率，因為它會復用文件描述符集合來傳遞結果而不用迫使開發者每次等待事件之前都必須重新准備要被偵聽的文件描述符集合，另一點原因就是獲取事件的時候，它無須遍歷整個被偵聽的描述符集，只要遍歷那些被內核IO事件異步喚醒而加入Ready隊列的描述符集合就行了。

    Linux下select 模型和epoll模型區別：

    假設你在大學讀書，住的宿舍樓有很多間房間，你的朋友要來找你。 select版宿管大媽就會帶着你的朋友挨個房間去找，直到找到你為止。而 epoll版宿管大媽會先記下每位同學的房間號，你的朋友來時，只需告訴你的朋友你住在哪個房間即可，不用親自帶着你的朋友滿大樓找人。如果來了 10000個人，都要找自己住這棟樓的同學時， select版和epoll 版宿管大媽，誰的效率更高，不言自明。同理，在高並發服務器中，輪詢 I/O是最耗時間的操作之一， select和epoll 的性能誰的性能更高，同樣十分明了。

二、詳解

 

epoll的接口非常簡單，一共就三個函數：
1. int epoll_create(int size);
    創建一個epoll的句柄，size用來告訴內核這個監聽的數目一共有多大。這個參數不同於select()中的第一個參數，給出最大監聽的fd+1的值。需要注意的是，當創建好epoll句柄后，它就是會占用一個fd值，在linux下如果查看/proc/進程id/fd/，是能夠看到這個fd的，所以在使用完epoll后，必須調用close()關閉，否則可能導致fd被耗盡。

2. int epoll_ctl(int epfd, int op, int fd, struct epoll_event* event);
   epoll的事件注冊函數，即注冊要監聽的事件類型。
   第一個參數是epoll_create()的返回值，
   第二個參數表示動作，用三個宏來表示：
   EPOLL_CTL_ADD：注冊新的fd到epfd中；
   EPOLL_CTL_MOD：修改已經注冊的fd的監聽事件；
   EPOLL_CTL_DEL：從epfd中刪除一個fd；
   第三個參數是需要監聽的fd，
   第四個參數是告訴內核需要監聽什么事，struct epoll_event結構如下：

struct epoll_event {
  __uint32_t events; /* Epoll events */
  epoll_data_t data; /* User data variable */
};

typedef union epoll_data {
void *ptr;
int fd;
__uint32_t u32;
__uint64_t u64;
} epoll_data_t;

   events可以是以下幾個宏的集合：

   EPOLLIN ： 表示對應的文件描述符可以讀（包括對端SOCKET正常關閉）；
   EPOLLOUT： 表示對應的文件描述符可以寫；
   EPOLLPRI： 表示對應的文件描述符有緊急的數據可讀（這里應該表示有帶外數據到來）；
   EPOLLERR： 表示對應的文件描述符發生錯誤；
   EPOLLHUP： 表示對應的文件描述符被掛斷；
   EPOLLET： 將 EPOLL設為邊緣觸發(Edge Triggered)模式（默認為水平觸發），這是相對於水平觸發(Level Triggered)來說的。
   EPOLLONESHOT： 只監聽一次事件，當監聽完這次事件之后，如果還需要繼續監聽這個socket的話，需要再次把這個socket加入到EPOLL隊列里

3. int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);
   等待事件的產生。參數events 用來從內核得到事件的集合，maxevents 告之內核這個events 有多大，這個maxevents 的值不能大於創建epoll_create()時的size，參數timeout是超時時間（毫秒，0會立即返回，-1將不確定，也有說法說是永久阻塞）。該函數返回需要處理的事件數目，如返回0表示已超時。

4. EPOLL事件有兩種模型：

Edge Triggered (ET) 邊緣觸發 只有數據到來，才觸發，不管緩存區中是否還有數據。
Level Triggered (LT) 水平觸發 只要有數據都會觸發。

假如有這樣一個例子：
1. 我們已經把一個用來從管道中讀取數據的文件句柄(RFD)添加到epoll描述符
2. 這個時候從管道的另一端被寫入了2KB的數據
3. 調用epoll_wait(2)，並且它會返回RFD，說明它已經准備好讀取操作
4. 然后我們讀取了1KB的數據
5. 調用epoll_wait(2)......
Edge Triggered 工作模式：
如果我們在第1步將RFD添加到epoll描述符的時候使用了EPOLLET標志，那么在第5步調用epoll_wait(2)之后將有可能會掛起，因為剩余的數據還存在於文件的輸入緩沖區內，而且數據發出端還在等待一個針對已經發出數據的反饋信息。只有在監視的文件句柄上發生了某個事件的時候 ET 工作模式才會匯報事件。因此在第5步的時候，調用者可能會放棄等待仍在存在於文件輸入緩沖區內的剩余數據。在上面的例子中，會有一個事件產生在RFD句柄上，因為在第2步執行了一個寫操作，然后，事件將會在第3步被銷毀。因為第4 步的讀取操作沒有讀空文件輸入緩沖區內的數據，因此我們在第5 步調用epoll_wait(2)完成后，是否掛起是不確定的。epoll工作在ET模式的時候，必須使用非阻塞套接口，以避免由於一個文件句柄的阻塞讀/阻塞寫操作把處理多個文件描述符的任務餓死。最好以下面的方式調用ET模式的epoll接口，在后面會介紹避免可能的缺陷。

i 基於非阻塞文件句柄
ii 只有當read(2)或者write(2)返回EAGAIN時才需要掛起，等待。但這並不是說每次read()時都需要循環讀，直到讀到產生一個EAGAIN 才認為此次事件處理完成，當read()返回的讀到的數據長度小於請求的數據長度時，就可以確定此時緩沖中已沒有數據了，也就可以認為此事讀事件已處理完成。Level Triggered 工作模式相反的，以LT方式調用epoll接口的時候，它就相當於一個速度比較快的poll(2)，並且無論后面的數據是否被使用，因此他們具有同樣的職能。因為即使使用ET模式的epoll，在收到多個chunk 的數據的時候仍然會產生多個事件。調用者可以設定EPOLLONESHOT標志，在 epoll_wait(2)收到事件后epoll會與事件關聯的文件句柄從epoll描述符中禁止掉。因此當EPOLLONESHOT設定后，使用帶有 EPOLL_CTL_MOD標志的epoll_ctl(2)處理文件句柄就成為調用者必須作的事情。

然后詳細解釋ET, LT:
LT(level triggered)是缺省的工作方式，並且同時支持block 和no-blocksocket.在這種做法中，內核告訴你一個文件描述符是否就緒了，然后你可以對這個就緒的fd進行IO操作。如果你不作任何操作，內核還是會繼續通知你的，所以，這種模式編程出錯誤可能性要小一點。傳統的select/poll都是這種模型的代表．

ET(edge-triggered)是高速工作方式，只支持no-block socket。在這種模式下，當描述符從未就緒變為就緒時，內核通過epoll告訴你。然后它會假設你知道文件描述符已經就緒，並且不會再為那個文件描述符發送更多的就緒通知，直到你做了某些操作導致那個文件描述符不再為就緒狀態了(比如，你在發送，接收或者接收請求，或者發送接收的數據少於一定量時導致了一個EWOULDBLOCK 錯誤）。但是請注意，如果一直不對這個fd作IO操作(從而導致它再次變成未就緒)，內核不會發送更多的通知(only once),不過在TCP協議中，ET模式的加速效用仍需要更多的benchmark確認（這句話不理解）。
在許多測試中我們會看到如果沒有大量的idle -connection 或者deadconnection，epoll 的效率並不會比select/poll 高很多，但是當我們遇到大量的idleconnection(例如WAN 環境中存在大量的慢速連接)，就會發現epoll 的效率大大高於select/poll。（未測試）
另外，當使用epoll的ET模型來工作時，當產生了一個EPOLLIN事件后，讀數據的時候需要考慮的是當recv()返回的大小如果等於請求的大小，那么很有可能是緩沖區還有數據未讀完，也意味着該次事件還沒有處理完，所以還需要再次讀取：

while(rs) {
  buflen = recv(activeevents[i].data.fd, buf, sizeof(buf), 0);
  if(buflen < 0) {
    // 由於是非阻塞的模式,所以當errno為EAGAIN時,表示當前緩沖區已無數據可讀
    // 在這里就當作是該次事件已處理處.
    if(errno == EAGAIN) {
      break;
    } else {
      return;
    }
  } else if(buflen == 0) {
  // 這里表示對端的socket已正常關閉.
  }
  if(buflen == sizeof(buf)) {
    rs = 1; // 需要再次讀取
  } else {
    rs = 0;
  }
}

還有，假如發送端流量大於接收端的流量(意思是epoll所在的程序讀比轉發的socket要快),由於是非阻塞的socket,那么send()函數雖然返回,但實際緩沖區的數據並未真正發給接收端,這樣不斷的讀和發，當緩沖區滿后會產生EAGAIN錯誤(參考man send),同時,不理會這次請求發送的數據.所以,需要封裝socket_send()的函數用來處理這種情況,該函數會盡量將數據寫完再返回，返回-1 表示出錯。在socket_send()內部,當寫緩沖已滿(send()返回-1,且errno為EAGAIN),那么會等待后再重試.這種方式並不很完美,在理論上可能會長時間的阻塞在socket_send()內部,但暫沒有更好的辦法.

ssize_t socket_send(int sockfd, const char* buffer, size_t buflen) {
  ssize_t tmp;
  size_t total = buflen;
  const char *p = buffer;
  while(1) {
    tmp = send(sockfd, p, total, 0);
    if(tmp < 0) {
      // 當send收到信號時,可以繼續寫,但這里返回-1.
      if(errno == EINTR)
        return -1;
      // 當socket是非阻塞時,如返回此錯誤,表示寫緩沖隊列已滿,
      // 在這里做延時后再重試.
      if(errno == EAGAIN) {
        usleep(1000);
        continue;
      }
      return -1;
    }
    if((size_t)tmp == total)
      return buflen;
    total -= tmp;
    p += tmp;
  }
  
  return tmp;
}

三、demo

1.測試環境

centos release 5.5, gcc 版本 4.1.2 20080704 (Red Hat 4.1.2-48)

2.編譯命令

g++ myepoll.cpp lxx_net.cc -g -o myepoll

3.源代碼

 

/*
 * myepoll.cpp
 *
 * Created on: 2013-06-03
 * Author: liuxiaoxian
 * 提高ms並發度調研：把客戶端發來的數據發過去
 */

#include <sys/socket.h>
#include <sys/epoll.h>
#include <netinet/in.h>
#include <arpa/inet.h>
#include <fcntl.h>
#include <unistd.h>
#include <stdio.h>
#include <errno.h>
#include <iostream>

#include "lxx_net.h"

using namespace std;
#define MAX_EPOLL_SIZE 500
#define MAX_CLIENT_SIZE 500
#define MAX_IP_LEN      16
#define MAX_CLIENT_BUFF_LEN 1024
#define QUEUE_LEN 500
#define BUFF_LEN 1024
int fd_epoll = -1;
int fd_listen = -1;

// 客服端連接
typedef struct {
  int fd;                           // 連接句柄
  char host[MAX_IP_LEN];           // IP地址
  int port;                         // 端口
  int len;                          // 緩沖區數據大小
  char buff[MAX_CLIENT_BUFF_LEN];   // 緩沖數據
  bool  status;                     // 狀態
} client_t;

client_t *ptr_cli = NULL;

// 加入epoll中
int epoll_add(int fd_epoll, int fd, struct epoll_event *ev) {
  if (fd_epoll < 0 || fd < 0 || ev == NULL) {
    return -1;
  }

  if (epoll_ctl(fd_epoll, EPOLL_CTL_ADD, fd, ev) < 0) {
    fprintf(stderr, "epoll_add failed(epoll_ctl)[fd_epoll:%d,fd:%d][%s]\n",
          fd_epoll, fd, strerror(errno));
    return -1;
  }

  fprintf(stdout, "epoll_add success[fd_epoll:%d,fd:%d]\n", fd_epoll, fd);
  return 0;
}

int epoll_del(int fd_epoll, int fd) {
  if (fd_epoll < 0 || fd < 0) {
    return -1;
  }

  struct epoll_event ev_del;
  if (epoll_ctl(fd_epoll, EPOLL_CTL_DEL, fd, &ev_del) < 0) {
    fprintf(stderr, "epoll_del failed(epoll_ctl)[fd_epoll:%d,fd:%d][%s]\n",
          fd_epoll, fd, strerror(errno));
    return -1;
  }
  close(fd);
  fprintf(stdout, "epoll_del success[epoll_fd:%d,fd:%d]\n", fd_epoll, fd);
  return 0;
}

// 接收數據
void do_read_data(int idx) {
  if (idx >= MAX_CLIENT_SIZE) {
    return;
  }
  int n;
  size_t pos = ptr_cli[idx].len;

  if ((n = recv(ptr_cli[idx].fd, ptr_cli[idx].buff+pos, MAX_CLIENT_BUFF_LEN-pos, 0))) { // 緩沖區數據接收完畢
    fprintf(stdout, "[IP:%s,port:%d], data:%s\n", ptr_cli[idx].host, ptr_cli[idx].port, ptr_cli[idx].buff);
    send(ptr_cli[idx].fd, ptr_cli[idx].buff, pos+1, 0);
  } else if (n > 0) { // 緩沖區還有數據可讀
    ptr_cli[idx].len += n;
  } else if (errno != EAGAIN) {  // 對端連接關閉
    fprintf(stdout, "The Client closed(read)[IP:%s,port:%d]\n", ptr_cli[idx].host, ptr_cli[idx].port);
    epoll_del(fd_epoll, ptr_cli[idx].fd);
    ptr_cli[idx].status = false;
  }
}

// 接受新連接
static void do_accept_client() {
  struct epoll_event ev;
  struct sockaddr_in cliaddr;
  socklen_t cliaddr_len = sizeof(cliaddr);

  int conn_fd = lxx_net_accept(fd_listen, (struct sockaddr *)&cliaddr, &cliaddr_len);
  if (conn_fd >= 0) {
    if (lxx_net_set_socket(conn_fd, false) != 0) {
      close(conn_fd);
      fprintf(stderr, "do_accept_client failed(setnonblock)[%s:%d]\n",
      inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port);
      return;
    }

    int i = 0;
    bool flag = true;

    // 尋找合適的連接資源
    for (i = 0; i < MAX_CLIENT_SIZE; i++) {
      if (!ptr_cli[i].status) {
        ptr_cli[i].port = cliaddr.sin_port;
        snprintf(ptr_cli[i].host, sizeof(ptr_cli[i].host), inet_ntoa(cliaddr.sin_addr));
        ptr_cli[i].len = 0;
        ptr_cli[i].fd = conn_fd;
        ptr_cli[i].status = true;
        flag = false;
        break;
      }
    }

    if (flag) {// 無可用連接
      close(conn_fd);
      fprintf(stderr, "do_accept_client failed(not found unuse client)[%s:%d]\n",
                    inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port);
    } else {
      ev.events = EPOLLIN;
      ev.data.u32 = i | 0x10000000;
      if (epoll_add(fd_epoll, conn_fd, &ev) < 0) {
        ptr_cli[i].status = false;
        close(ptr_cli[i].fd);
        fprintf(stderr, "do_accept_client failed(epoll_add)[%s:%d]",
        inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port);
        return;
      }

      fprintf(stdout, "do_accept_client success[%s:%d]",
            inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port);
    }
  }
}


int main(int argc, char **argv) {
  unsigned short port = 12345;
  if(argc == 2){
      port = atoi(argv[1]);
  }
  if ((fd_listen = lxx_net_listen(port, QUEUE_LEN)) < 0) {
    fprintf(stderr, "listen port failed[%d]", port);
    return -1;
  }

  fd_epoll = epoll_create(MAX_EPOLL_SIZE);
  if (fd_epoll < 0) {
    fprintf(stderr, "create epoll failed.%d\n", fd_epoll);
    close(fd_listen);
    return -1;
  }

  // 將監聽連接加入事件集合
  struct epoll_event ev;
  ev.events = EPOLLIN;
  ev.data.fd = fd_listen;

  if (epoll_add(fd_epoll, fd_listen, &ev) < 0) {
    close(fd_epoll);
    close(fd_listen);
    fd_epoll = -1;
    fd_listen = -1;
    return -1;
  }

  ptr_cli = new client_t[MAX_CLIENT_SIZE];
  struct epoll_event events[MAX_EPOLL_SIZE];
  for (;;) {
    int nfds = epoll_wait(fd_epoll, events, MAX_EPOLL_SIZE, 10);

    if (nfds < 0) {
      int err = errno;
      if (err != EINTR) {
        fprintf(stderr, "epoll_wait failed[%s]", strerror(err));
      }
      continue;
    }

    for (int i = 0; i < nfds; i++) {
      if (events[i].data.u32 & 0x10000000) {
        // 接收數據
        do_read_data(events[i].data.u32 & 0x0FFFFFFF);
      } else if(events[i].data.fd == fd_listen) {
        // 接受新連接
        do_accept_client();
      }
    }
  }
  return 0;
}

 

 

 

4.運行結果