Linux epoll模型

epoll是Linux内核为处理大批句柄而作改进的poll，是Linux下多路复用IO接口select/poll的增强版本，它能显著的减少程序在大量并发连接中只有少量活跃的情况下的系统CPU利用率。因为它会复用文件描述符集合来传递结果而不是迫使开发者每次等待事件之前都必须重新准备要被侦听的文件描述符集合，另一个原因就是获取事件的时候，它无须遍历整个被侦听的描述符集，只要遍历那些被内核IO事件异步唤醒而加入Ready队列的描述符集合就行了。epoll除了提供select\poll那种IO事件的电平触发(Level Triggered)外，还提供了边沿触发(Edge Triggered)，这就使得用户空间程序有可能缓存IO状态，减少epoll_wait/epoll_pwait的调用，提供应用程序的效率。

工作方式：

　　LT(level triggered)：水平触发，缺省方式，同时支持block和no-block socket，在这种做法中，内核告诉我们一个文件描述符是否被就绪了，如果就绪了，你就可以对这个就绪的fd进行IO操作。如果你不作任何操作，内核还是会继续通知你的，所以，这种模式编程出错的可能性较小。传统的select\poll都是这种模型的代表。

　　ET(edge-triggered)：边沿触发，高速工作方式，只支持no-block socket。在这种模式下，当描述符从未就绪变为就绪状态时，内核通过epoll告诉你。然后它会假设你知道文件描述符已经就绪，并且不会再为那个描述符发送更多的就绪通知，直到你做了某些操作导致那个文件描述符不再为就绪状态了(比如：你在发送、接受或者接受请求，或者发送接受的数据少于一定量时导致了一个EWOULDBLOCK错误)。但是请注意，如果一直不对这个fs做IO操作(从而导致它再次变成未就绪状态)，内核不会发送更多的通知。

　　区别：LT事件不会丢弃，而是只要读buffer里面有数据可以让用户读取，则不断的通知你。而ET则只在事件发生之时通知。

使用方式：

1、int epoll_create(int size)

创建一个epoll句柄，参数size用来告诉内核监听的数目。

2、int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event)

epoll事件注册函数，

参数epfd为epoll的句柄；

参数op表示动作，用3个宏来表示：EPOLL_CTL_ADD(注册新的fd到epfd)，EPOLL_CTL_MOD(修改已经注册的fd的监听事件)，EPOLL_CTL_DEL(从epfd删除一个fd)；

参数fd为需要监听的标示符；

参数event告诉内核需要监听的事件，event的结构如下：

struct epoll_event { __uint32_t events; epoll_data_t data; };

　　其中events可以用以下几个宏的集合：

　　EPOLLIN ：表示对应的文件描述符可以读（包括对端SOCKET正常关闭）

　　EPOLLOUT：表示对应的文件描述符可以写

　　EPOLLPRI：表示对应的文件描述符有紧急的数据可读（这里应该表示有带外数据到来）

　　EPOLLERR：表示对应的文件描述符发生错误

　　EPOLLHUP：表示对应的文件描述符被挂断；

　　EPOLLET： 将EPOLL设为边缘触发(Edge Triggered)模式，这是相对于水平触发(Level Triggered)来说的

　　EPOLLONESHOT：只监听一次事件，当监听完这次事件之后，如果还需要继续监听这个socket的话，需要再次把这个socket加入到EPOLL队列里

3、int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout)

　 等待事件的产生，类似于select()调用。参数events用来从内核得到事件的集合，maxevents告之内核这个events有多大，这个maxevents的值不能大于创建epoll_create()时的size，参数timeout是超时时间（毫秒，0会立即返回，-1将不确定，也有说法说是永久阻塞）。该函数返回需要处理的事件数目，如返回0表示已超时。

应用举例：

　　下面，我引用google code中别人写的一个简单程序来进行说明。svn路径：http://sechat.googlecode.com/svn/trunk/

　　该程序一个简单的聊天室程序，用Linux C++写的，服务器主要是用epoll模型实现，支持高并发，我测试在有10000个客户端连接服务器的时候，server处理时间不到1秒，当然客户端只是与服务器连接之后，接受服务器的欢迎消息而已，并没有做其他的通信。虽然程序比较简单，但是在我们考虑服务器高并发时也提供了一个思路。在这个程序中，我已经把所有的调试信息和一些与epoll无关的信息干掉，并添加必要的注释，应该很容易理解。

　　程序共包含2个头文件和3个cpp文件。其中3个cpp文件中，每一个cpp文件都是一个应用程序，server.cpp：服务器程序，client.cpp：单个客户端程序，tester.cpp：模拟高并发，开启10000个客户端去连服务器。

utils.h头文件，就包含一个设置socket为不阻塞函数，如下：

int setnonblocking(int sockfd)

{

CHK(fcntl(sockfd, F_SETFL, fcntl(sockfd, F_GETFD, 0)|O_NONBLOCK));

return 0;

}

　　local.h头文件，一些常量的定义和函数的声明，如下： #define BUF_SIZE 1024 //默认缓冲区 #define SERVER_PORT 44444 //监听端口 #define SERVER_HOST “192.168.34.15” //服务器IP地址 #define EPOLL_RUN_TIMEOUT -1 //epoll的超时时间 #define EPOLL_SIZE 10000 //epoll监听的客户端的最大数目 #define STR_WELCOME “Welcome to seChat! You ID is: Client #%d” #define STR_MESSAGE “Client #%d>> %s” #define STR_NOONE&#95;CONNECTED “Noone connected to server except you!” #define CMD_EXIT “EXIT” //两个有用的宏定义：检查和赋值并且检测 #define CHK(eval) if(eval < 0){perror(“eval”); exit(-1);} #define CHK2(res, eval) if((res = eval) < 0){perror(“eval”); exit(-1);} //================================================================================================ //函数名： setnonblocking //函数描述： 设置socket为不阻塞 //输入： [in] sockfd socket标示符 //输出： 无 //返回： 0 //================================================================================================ int setnonblocking(int sockfd); //================================================================================================ //函数名： handle&#95;message //函数描述： 处理每个客户端socket //输入： [in] new_fd socket标示符 //输出： 无 //返回： 返回从客户端接受的数据的长度 //================================================================================================ int handle&#95;message(int new_fd); 复制代码 　　server.cpp文件，epoll模型就在这里实现，如下： 复制代码 #include “local.h” #include “utils.h” using namespace std; // 存放客户端socket描述符的list list<int> clients_list; int main(int argc, char *argv[]) { int listener; //监听socket struct sockaddr_in addr, their_addr; addr.sin_family = PF_INET; addr.sin_port = htons(SERVER_PORT); addr.sin_addr.s_addr = inet_addr(SERVER_HOST); socklen_t socklen; socklen = sizeof(struct sockaddr_in); static struct epoll_event ev, events[EPOLL_SIZE]; ev.events = EPOLLIN | EPOLLET; //对读感兴趣，边沿触发 char message[BUF_SIZE]; int epfd; //epoll描述符 clock_t tStart; //计算程序运行时间 int client, res, epoll_events_count; CHK2(listener, socket(PF_INET, SOCK_STREAM, 0)); //初始化监听socket setnonblocking(listener); //设置监听socket为不阻塞 CHK(bind(listener, (struct sockaddr *)&addr, sizeof(addr))); //绑定监听socket CHK(listen(listener, 1)); //设置监听 CHK2(epfd,epoll_create(EPOLL_SIZE)); //创建一个epoll描述符，并将监听socket加入epoll ev.data.fd = listener; CHK(epoll_ctl(epfd, EPOLL_CTL_ADD, listener, &ev)); while(1) { CHK2(epoll_events_count,epoll_wait(epfd, events, EPOLL_SIZE, EPOLL_RUN_TIMEOUT)); tStart = clock(); for(int i = 0; i < epoll_events_count ; i++) { if(events[i].data.fd == listener) //新的连接到来，将连接添加到epoll中，并发送欢迎消息 { CHK2(client,accept(listener, (struct sockaddr *) &their_addr, &socklen)); setnonblocking(client); ev.data.fd = client; CHK(epoll_ctl(epfd, EPOLL_CTL_ADD, client, &ev)); clients_list.push_back(client); // 添加新的客户端到list bzero(message, BUF_SIZE); res = sprintf(message, STR_WELCOME, client); CHK2(res, send(client, message, BUF_SIZE, 0)); }else { CHK2(res,handle&#95;message(events[i].data.fd)); //注意：这里并没有调用epoll_ctl重新设置socket的事件类型，但还是可以继续收到客户端发送过来的信息 } } printf(“Statistics: %d events handled at: %.2f second(s)\n”, epoll_events_count, (double)(clock() – tStart)/CLOCKS_PER_SEC); } close(listener); close(epfd); return 0; } int handle&#95;message(int client) { char buf[BUF_SIZE], message[BUF_SIZE]; bzero(buf, BUF_SIZE); bzero(message, BUF_SIZE); int len; CHK2(len,recv(client, buf, BUF_SIZE, 0)); //接受客户端信息 if(len == 0) //客户端关闭或出错，关闭socket，并从list移除socket { CHK(close(client)); clients_list.remove(client); } else //向客户端发送信息 { if(clients_list.size() == 1) { CHK(send(client, STR_NOONE&#95;CONNECTED, strlen(STR_NOONE&#95;CONNECTED), 0)); return len; } sprintf(message, STR_MESSAGE, client, buf); list<int>::iterator it; for(it = clients_list.begin(); it != clients_list.end(); it++) { if(*it != client) { CHK(send(*it, message, BUF_SIZE, 0)); } } } return len; }

　　tester.cpp文件，模拟服务器的高并发，开启10000个客户端去连接服务器，如下：

复制代码

#include “local.h” #include “utils.h” using namespace std; char message[BUF_SIZE]; //接受服务器信息 list<int> list_of_clients; //存放所有客户端 int res; clock_t tStart; int main(int argc, char *argv[]) { int sock; struct sockaddr_in addr; addr.sin_family = PF_INET; addr.sin_port = htons(SERVER_PORT); addr.sin_addr.s_addr = inet_addr(SERVER_HOST); tStart = clock(); for(int i=0 ; i<EPOLL_SIZE; i++) //生成EPOLL_SIZE个客户端，这里是10000个，模拟高并发 { CHK2(sock,socket(PF_INET, SOCK_STREAM, 0)); CHK(connect(sock, (struct sockaddr *)&addr, sizeof(addr)) < 0); list_of_clients.push_back(sock); bzero(&message, BUF_SIZE); CHK2(res,recv(sock, message, BUF_SIZE, 0)); printf(“%s\n”, message); } list<int>::iterator it; //移除所有客户端 for(it = list_of_clients.begin(); it != list_of_clients.end() ; it++) close(*it); printf(“Test passed at: %.2f second(s)\n”, (double)(clock() – tStart)/CLOCKS_PER_SEC); printf(“Total server connections was: %d\n”, EPOLL_SIZE); return 0; }

　　我就不给出程序的执行结果的截图了，不过下面这张截图是代码作者自己测试的，可以看出，并发10000无压力呀