亚洲av成人无遮挡网站在线观看,少妇性bbb搡bbb爽爽爽,亚洲av日韩精品久久久久久,兔费看少妇性l交大片免费,无码少妇一区二区三区

  免費(fèi)注冊 查看新帖 |

Chinaunix

  平臺(tái) 論壇 博客 文庫
12345下一頁
最近訪問板塊 發(fā)新帖
查看: 46517 | 回復(fù): 48
打印 上一主題 下一主題

Linux下各類TCP網(wǎng)絡(luò)服務(wù)器的實(shí)現(xiàn)源代碼 [復(fù)制鏈接]

論壇徽章:
0
跳轉(zhuǎn)到指定樓層
1 [收藏(0)] [報(bào)告]
發(fā)表于 2006-07-05 23:12 |只看該作者 |倒序?yàn)g覽
大家都知道各類網(wǎng)絡(luò)服務(wù)器程序的編寫步驟,并且都知道網(wǎng)絡(luò)服務(wù)器就兩大類:循環(huán)服務(wù)和并發(fā)服務(wù)。這里附上源代碼來個(gè)小結(jié)吧。

首先,循環(huán)網(wǎng)絡(luò)服務(wù)器編程實(shí)現(xiàn)的步驟是這樣的:

這種服務(wù)器模型是典型循環(huán)服務(wù),如果不加上多進(jìn)程/線程技術(shù),此種服務(wù)吞吐量有限,大家都可以看到,如果前一個(gè)連接服務(wù)數(shù)據(jù)沒有收發(fā)完畢后面的連接沒辦法處理。所以一般有多進(jìn)程技術(shù),對一個(gè)新連接啟用一個(gè)新進(jìn)程去處理,而監(jiān)聽socket繼續(xù)監(jiān)聽。

/************關(guān)于本文檔********************************************
*filename: Linux下各類TCP網(wǎng)絡(luò)服務(wù)器的實(shí)現(xiàn)源代碼
*purpose: 記錄Linux下各類tcp服務(wù)程序源代碼
*wrote by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
*date time:2006-07-04 22:00:00
*Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
* 但請遵循GPL
*Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
*********************************************************************/

一個(gè)循環(huán)TCP服務(wù)源代碼(因?yàn)橛胒ork進(jìn)行多進(jìn)程服務(wù)了,所以這種服務(wù)現(xiàn)實(shí)中也有用)如下:

  1. /*----------------------源代碼開始--------------------------------------------*/
  2. #include <stdio.h>
  3. #include <stdlib.h>
  4. #include <errno.h>
  5. #include <string.h>
  6. #include <sys/types.h>
  7. #include <netinet/in.h>
  8. #include <sys/socket.h>
  9. #include <sys/wait.h>
  10. /*********************************************************************
  11. *filename: cycletcpserver.c
  12. *purpose: 循環(huán)tcp服務(wù)端程序
  13. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  14. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  15. *date time:2006-07-04 22:00:00
  16. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  17. * 但請遵循GPL
  18. *Thanks to: Google.com
  19. *********************************************************************/
  20. int main(int argc, char ** argv)
  21. {
  22.     int sockfd,new_fd; /* 監(jiān)聽socket: sock_fd,數(shù)據(jù)傳輸socket: new_fd */
  23.     struct sockaddr_in my_addr; /* 本機(jī)地址信息 */
  24.     struct sockaddr_in their_addr; /* 客戶地址信息 */
  25.     unsigned int sin_size, myport, lisnum;

  26.     if(argv[1])  myport = atoi(argv[1]);
  27.     else myport = 7838;

  28.     if(argv[2])  lisnum = atoi(argv[2]);
  29.     else lisnum = 2;

  30.     if ((sockfd = socket(PF_INET, SOCK_STREAM, 0)) == -1) {
  31.         perror("socket");
  32.         exit(1);
  33.     }
  34.     my_addr.sin_family=PF_INET;
  35.     my_addr.sin_port=htons(myport);
  36.     my_addr.sin_addr.s_addr = INADDR_ANY;
  37.     bzero(&(my_addr.sin_zero), 0);
  38.     if (bind(sockfd, (struct sockaddr *)&my_addr, sizeof(struct sockaddr)) == -1) {
  39.         perror("bind");
  40.         exit(1);
  41.     }

  42.     if (listen(sockfd, lisnum) == -1) {
  43.         perror("listen");
  44.         exit(1);
  45.     }
  46.     while(1) {
  47.         sin_size = sizeof(struct sockaddr_in);
  48.         if ((new_fd = accept(sockfd, (struct sockaddr *)&their_addr, &sin_size)) == -1) {
  49.             perror("accept");
  50.             continue;
  51.         }
  52.         printf("server: got connection from %s\n",inet_ntoa(their_addr.sin_addr));
  53.         if (!fork()) { /* 子進(jìn)程代碼段 */
  54.             if (send(new_fd, "Hello, world!\n", 14, 0) == -1) {
  55.                 perror("send");
  56.                 close(new_fd);
  57.                 exit(0);
  58.             }
  59.         }
  60.         close(new_fd); /*父進(jìn)程不再需要該socket*/
  61.         waitpid(-1,NULL,WNOHANG);/*等待子進(jìn)程結(jié)束,清除子進(jìn)程所占用資源*/
  62.     }
  63. }
  64. /*----------------------源代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

一個(gè)測試客戶端代碼如下:

  1. /*----------------------源代碼開始--------------------------------------------*/
  2. #include <stdio.h>
  3. #include <stdlib.h>
  4. #include <errno.h>
  5. #include <string.h>
  6. #include <netdb.h>
  7. #include <sys/types.h>
  8. #include <netinet/in.h>
  9. #include <sys/socket.h>
  10. #define MAXDATASIZE 100 /*每次最大數(shù)據(jù)傳輸量 */
  11. /*********************************************************************
  12. *filename: cycletcpclient.c
  13. *purpose: 循環(huán)tcp客戶端程序
  14. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  15. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  16. *date time:2006-07-04 22:20:00
  17. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  18. * 但請遵循GPL
  19. *Thanks to: Google.com
  20. *Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
  21. *********************************************************************/

  22. int main(int argc, char *argv[])
  23. {
  24.     int sockfd, numbytes;
  25.     char buf[MAXDATASIZE];
  26.     struct hostent *he;
  27.     struct sockaddr_in their_addr;
  28.     unsigned int myport;

  29.     if(argv[2]) myport = atoi(argv[2]);
  30.     else myport = 7838;

  31.     if (argc != 3) {
  32.         fprintf(stderr,"usage: %s hostname port\n", argv[0]);
  33.         exit(1);
  34.     }
  35.     if((he=gethostbyname(argv[1]))==NULL) {
  36.         herror("gethostbyname");
  37.         exit(1);
  38.     }
  39.     if ((sockfd = socket(PF_INET, SOCK_STREAM, 0)) == -1) {
  40.         perror("socket");
  41.         exit(1);
  42.     }
  43.     their_addr.sin_family=PF_INET;
  44.     their_addr.sin_port=htons(myport);
  45.     their_addr.sin_addr = *((struct in_addr *)he->h_addr);
  46.     bzero(&(their_addr.sin_zero),0);
  47.     if (connect(sockfd, (struct sockaddr *)&their_addr, sizeof(struct sockaddr)) == -1) {
  48.         perror("connect");
  49.         exit(1);
  50.     }
  51.     if ((numbytes=recv(sockfd, buf, MAXDATASIZE, 0)) == -1) {
  52.         perror("recv");
  53.         exit(1);
  54.     }
  55.     buf[numbytes] = 0;
  56.     printf("Received: %s\n",buf);
  57.     close(sockfd);
  58.     return 0;
  59. }
  60. /*----------------------源代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

用gcc cycletcpserver.c -o tcpserver和gcc cycletcpclient.c -o tcpclient分別編譯上述代碼后運(yùn)行情況如下:
服務(wù)端運(yùn)行顯示:
administrator@ubuzlf:/data/example/c$ ./tcpserver
server: got connection from 127.0.0.1
server: got connection from 127.0.0.1
server: got connection from 127.0.0.1

客戶端運(yùn)行顯示:
administrator@ubuzlf:/data/example/c$ ./tcpclient 127.0.0.1 7838
Received: Hello, world!

administrator@ubuzlf:/data/example/c$ ./tcpclient 127.0.0.1 7838
Received: Hello, world!

administrator@ubuzlf:/data/example/c$ ./tcpclient 127.0.0.1 7838
Received: Hello, world!

不得不說的一個(gè)概念性問題:阻塞與非阻塞
在阻塞服務(wù)中,當(dāng)服務(wù)器運(yùn)行到accept語句而沒有客戶連接服務(wù)請求到來,那么會(huì)發(fā)生什么情況? 這時(shí)服務(wù)器就會(huì)停止在accept語句上等待連接服務(wù)請求的到來;同樣,當(dāng)程序運(yùn)行到接收數(shù)據(jù)語句recv時(shí),如果沒有數(shù)據(jù)可以讀取,則程序同樣會(huì)停止在接收語句上。這種情況稱為阻塞(blocking)。
但如果你希望服務(wù)器僅僅注意檢查是否有客戶在等待連接,有就接受連接;否則就繼續(xù)做其他事情,則可以通過將 socket設(shè)置為非阻塞方式來實(shí)現(xiàn):非阻塞socket在沒有客戶在等待時(shí)就使accept調(diào)用立即返回 。
通過設(shè)置socket為非阻塞方式,可以實(shí)現(xiàn)“輪詢”若干socket。當(dāng)企圖從一個(gè)沒有數(shù)據(jù)等待處理的非阻塞socket讀入數(shù)據(jù)時(shí),函數(shù)將立即返回,并且返回值置為-1,并且errno置為EWOULDBLOCK。但是這種“輪詢”會(huì)使CPU處于忙等待方式,從而降低性能?紤]到這種情況,假設(shè)你希望服務(wù)器監(jiān)聽連接服務(wù)請求的同時(shí)從已經(jīng)建立的連接讀取數(shù)據(jù),你也許會(huì)想到用一個(gè)accept語句和多個(gè)recv()語句,但是由于accept及recv都是會(huì)阻塞的,所以這個(gè)想法顯然不會(huì)成功。
調(diào)用非阻塞的socket會(huì)大大地浪費(fèi)系統(tǒng)資源。而調(diào)用select()會(huì)有效地解決這個(gè)問題,它允許你把進(jìn)程本身掛起來,而同時(shí)使系統(tǒng)內(nèi)核監(jiān)聽所要求的一組文件描述符的任何活動(dòng),只要確認(rèn)在任何被監(jiān)控的文件描述符上出現(xiàn)活動(dòng),select()調(diào)用將返回指示該文件描述符已準(zhǔn)備好的信息,從而實(shí)現(xiàn)了為進(jìn)程選出隨機(jī)的變化,而不必由進(jìn)程本身對輸入進(jìn)行測試而浪費(fèi)CPU開銷。

其次,并發(fā)服務(wù)器,在上述cycletcpserver.c中,由于使用了fork技術(shù)也可以稱之為并發(fā)服務(wù)器,但這種服務(wù)器并不是真正意義上的IO多路復(fù)用的并發(fā)服務(wù)器,并且由于沒有處理阻塞問題,實(shí)際應(yīng)用有各種各樣的問題。

一個(gè)典型IO多路復(fù)用的單進(jìn)程并發(fā)服務(wù)器流程如下:
/*IO多路復(fù)用并發(fā)服務(wù)流程圖*/

下面是一個(gè)演示IO多路復(fù)用的源程序,是一個(gè)端口轉(zhuǎn)發(fā)程序,但它的用處相當(dāng)大,實(shí)際應(yīng)用中的各類代理軟件或端口映射軟件都是基于這樣的代碼的,比如Windows下的WinGate、WinProxy等都是在此基礎(chǔ)上實(shí)現(xiàn)的。源代碼如下:

  1. /*----------------------源代碼開始--------------------------------------------*/
  2. #include <stdlib.h>
  3. #include <stdio.h>
  4. #include <unistd.h>
  5. #include <sys/time.h>
  6. #include <sys/types.h>
  7. #include <string.h>
  8. #include <signal.h>
  9. #include <sys/socket.h>
  10. #include <netinet/in.h>
  11. #include <arpa/inet.h>
  12. #include <errno.h>

  13. static int forward_port;

  14. #undef max
  15. #define max(x,y) ((x) > (y) ? (x) : (y))

  16. /*************************關(guān)于本文檔************************************
  17. *filename: tcpforwardport.c
  18. *purpose: 演示了select的用法,這是一個(gè)極好的代理軟件核心,專門作端口映射用
  19. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  20. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  21. *date time:2006-07-05 19:00:00
  22. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  23. * 但請遵循GPL
  24. *Thanks to: Paul Sheer 感謝Paul Sheer在select_tut的man手冊里提供了這份源代碼
  25. *Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
  26. *********************************************************************/

  27. static int listen_socket (int listen_port) {
  28.     struct sockaddr_in a;
  29.     int s;
  30.     int yes;
  31.     if ((s = socket (AF_INET, SOCK_STREAM, 0)) < 0) {
  32.         perror ("socket");
  33.         return -1;
  34.     }
  35.     yes = 1;
  36.     if (setsockopt(s, SOL_SOCKET, SO_REUSEADDR, (char *) &yes, sizeof (yes)) <
  37. 0) {
  38.         perror ("setsockopt");
  39.         close (s);
  40.         return -1;
  41.     }
  42.     memset (&a, 0, sizeof (a));
  43.     a.sin_port = htons (listen_port);
  44.     a.sin_family = AF_INET;
  45.     if (bind(s, (struct sockaddr *) &a, sizeof (a)) < 0) {
  46.         perror ("bind");
  47.         close (s);
  48.         return -1;
  49.     }
  50.     printf ("accepting connections on port %d\n", (int) listen_port);
  51.     listen (s, 10);
  52.     return s;
  53. }

  54. static int connect_socket (int connect_port, char *address) {
  55.     struct sockaddr_in a;
  56.     int s;
  57.     if ((s = socket (AF_INET, SOCK_STREAM, 0)) < 0) {
  58.         perror ("socket");
  59.         close (s);
  60.         return -1;
  61.     }

  62.     memset (&a, 0, sizeof (a));
  63.     a.sin_port = htons (connect_port);
  64.     a.sin_family = AF_INET;

  65.     if (!inet_aton(address, (struct in_addr *) &a.sin_addr.s_addr)) {
  66.         perror ("bad IP address format");
  67.         close (s);
  68.         return -1;
  69.     }

  70.     if (connect(s, (struct sockaddr *) &a, sizeof (a)) < 0) {
  71.         perror ("connect()");
  72.         shutdown (s, SHUT_RDWR);
  73.         close (s);
  74.         return -1;
  75.     }
  76.     return s;
  77. }

  78. #define SHUT_FD1 { \
  79.     if (fd1 >= 0) {   \
  80.         shutdown (fd1, SHUT_RDWR);  \
  81.         close (fd1);  \
  82.         fd1 = -1;     \
  83.     }   \
  84. }

  85. #define SHUT_FD2 { \
  86.     if (fd2 >= 0) {   \
  87.         shutdown (fd2, SHUT_RDWR);  \
  88.         close (fd2);  \
  89.         fd2 = -1;     \
  90.     }   \
  91. }

  92. #define BUF_SIZE 1024

  93. int main (int argc, char **argv) {
  94.     int h;
  95.     int fd1 = -1, fd2 = -1;
  96.     char buf1[BUF_SIZE], buf2[BUF_SIZE];
  97.     int buf1_avail, buf1_written;
  98.     int buf2_avail, buf2_written;

  99.     if (argc != 4) {
  100.         fprintf (stderr, "Usage\n\tfwd   \n");
  101.         exit (1);
  102.     }

  103.     signal (SIGPIPE, SIG_IGN);

  104.     forward_port = atoi (argv[2]);

  105.     /*建立監(jiān)聽socket*/
  106.     h = listen_socket (atoi (argv[1]));
  107.     if (h < 0) exit (1);

  108.     for (;;) {
  109.         int r, nfds = 0;
  110.         fd_set rd, wr, er;
  111.         FD_ZERO (&rd);
  112.         FD_ZERO (&wr);
  113.         FD_ZERO (&er);
  114.         FD_SET (h, &rd);

  115.         /*把監(jiān)聽socket和可讀socket三個(gè)一起放入select的可讀句柄列表里*/
  116.         nfds = max (nfds, h);
  117.         if (fd1 > 0 && buf1_avail < BUF_SIZE) {
  118.             FD_SET (fd1, &rd);
  119.             nfds = max (nfds, fd1);
  120.         }
  121.         if (fd2 > 0 && buf2_avail < BUF_SIZE) {
  122.             FD_SET (fd2, &rd);
  123.             nfds = max (nfds, fd2);
  124.         }

  125.         /*把可寫socket兩個(gè)一起放入select的可寫句柄列表里*/
  126.         if (fd1 > 0 && buf2_avail - buf2_written > 0) {
  127.             FD_SET (fd1, &wr);
  128.             nfds = max (nfds, fd1);
  129.         }
  130.         if (fd2 > 0 && buf1_avail - buf1_written > 0) {
  131.             FD_SET (fd2, &wr);
  132.             nfds = max (nfds, fd2);
  133.         }

  134.         /*把有異常數(shù)據(jù)的socket兩個(gè)一起放入select的異常句柄列表里*/
  135.         if (fd1 > 0) {
  136.             FD_SET (fd1, &er);
  137.             nfds = max (nfds, fd1);
  138.         }
  139.         if (fd2 > 0) {
  140.             FD_SET (fd2, &er);
  141.             nfds = max (nfds, fd2);
  142.         }

  143.         /*開始select*/
  144.         r = select (nfds + 1, &rd, &wr, &er, NULL);

  145.         if (r == -1 && errno == EINTR) continue;
  146.         if (r < 0) {
  147.             perror ("select()");
  148.             exit (1);
  149.         }

  150.         /*處理新連接*/
  151.         if (FD_ISSET (h, &rd)) {
  152.             unsigned int l;
  153.             struct sockaddr_in client_address;
  154.             memset (&client_address, 0, l = sizeof (client_address));
  155.             r = accept (h, (struct sockaddr *)&client_address, &l);
  156.             if (r < 0) {
  157.                 perror ("accept()");
  158.             } else {
  159.                 /*關(guān)閉原有連接,把新連接作為fd1,同時(shí)連接新的目標(biāo)fd2*/
  160.                 SHUT_FD1;
  161.                 SHUT_FD2;
  162.                 buf1_avail = buf1_written = 0;
  163.                 buf2_avail = buf2_written = 0;
  164.                 fd1 = r;
  165.                 fd2 = connect_socket (forward_port, argv[3]);
  166.                 if (fd2 < 0) {
  167.                     SHUT_FD1;
  168.                 } else
  169.                     printf ("connect from %s\n", inet_ntoa(client_address.sin_addr));
  170.             }
  171.         }

  172.         /* NB: read oob data before normal reads */
  173.         if (fd1 > 0)
  174.         if (FD_ISSET (fd1, &er)) {
  175.             char c;
  176.             errno = 0;
  177.             r = recv (fd1, &c, 1, MSG_OOB);
  178.             if (r < 1) {
  179.                 SHUT_FD1;
  180.             } else
  181.                 send (fd2, &c, 1, MSG_OOB);
  182.         }

  183.         if (fd2 > 0)
  184.         if (FD_ISSET (fd2, &er)) {
  185.             char c;
  186.             errno = 0;
  187.             r = recv (fd2, &c, 1, MSG_OOB);
  188.             if (r < 1) {
  189.                 SHUT_FD1;
  190.             } else
  191.                 send (fd1, &c, 1, MSG_OOB);
  192.         }

  193.         /* NB: read data from fd1 */
  194.         if (fd1 > 0)
  195.         if (FD_ISSET (fd1, &rd)) {
  196.             r = read (fd1, buf1 + buf1_avail, BUF_SIZE - buf1_avail);
  197.             if (r < 1) {
  198.                 SHUT_FD1;
  199.             } else
  200.                 buf1_avail += r;
  201.         }

  202.         /* NB: read data from fd2 */
  203.         if (fd2 > 0)
  204.         if (FD_ISSET (fd2, &rd)) {
  205.             r = read (fd2, buf2 + buf2_avail, BUF_SIZE - buf2_avail);
  206.             if (r < 1) {
  207.                 SHUT_FD2;
  208.             } else
  209.                 buf2_avail += r;
  210.         }

  211.         /* NB: write data to fd1 */
  212.         if (fd1 > 0)
  213.         if (FD_ISSET (fd1, &wr)) {
  214.             r = write (fd1, buf2 + buf2_written, buf2_avail - buf2_written);
  215.             if (r < 1) {
  216.                 SHUT_FD1;
  217.             } else
  218.                 buf2_written += r;
  219.         }

  220.         /* NB: write data to fd1 */
  221.         if (fd2 > 0)
  222.         if (FD_ISSET (fd2, &wr)) {
  223.             r = write (fd2, buf1 + buf1_written, buf1_avail - buf1_written);
  224.             if (r < 1) {
  225.                 SHUT_FD2;
  226.             } else
  227.                 buf1_written += r;
  228.         }

  229.         /* check if write data has caught read data */
  230.         if (buf1_written == buf1_avail) buf1_written = buf1_avail = 0;
  231.         if (buf2_written == buf2_avail) buf2_written = buf2_avail = 0;

  232.         /* one side has closed the connection, keep writing to the other side until empty */
  233.         if (fd1 < 0 && buf1_avail - buf1_written == 0) {
  234.             SHUT_FD2;
  235.         }
  236.         if (fd2 < 0 && buf2_avail - buf2_written == 0) {
  237.             SHUT_FD1;
  238.         }
  239.     }
  240.     return 0;
  241. }
  242. /*----------------------源代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

[ 本帖最后由 zhoulifa 于 2006-10-19 08:35 編輯 ]

論壇徽章:
0
2 [報(bào)告]
發(fā)表于 2006-07-05 23:13 |只看該作者
用gcc tcpforwardport.c -o MyProxy編譯此程序后運(yùn)行效果如下:
./MyProxy 8000 80 172.16.100.218
accepting connections on port 8000
connect from 127.0.0.1

當(dāng)有用戶訪問本機(jī)的8000端口時(shí),MyProxy程序?qū)汛苏埱筠D(zhuǎn)發(fā)到172.16.100.218主機(jī)的80端口,即實(shí)現(xiàn)了一個(gè)http代理。

關(guān)于select函數(shù):
其函數(shù)原型為:
int select(int n, fd_set *readfds, fd_set *writefds, fd_set *exceptfds, struct timeval *timeout);
此函數(shù)的功能是由內(nèi)核檢測在timeout時(shí)間內(nèi),是否有readfds,writefds,exceptfds三個(gè)句柄集(file descriptors)里的某個(gè)句柄(file descriptor)的狀態(tài)符合尋求,即readfds句柄集里有句柄可讀或writefds句柄集里有可寫或exceptfds句柄集里有例外發(fā)生,任何一個(gè)有變化函數(shù)就立即返回,返回值為timeout發(fā)生狀態(tài)變化的句柄個(gè)數(shù)。
n是所有readfds,writefds,exceptfds三個(gè)句柄集(file descriptors)里編號最大值加1。比如:要檢測兩個(gè)socket句柄fd1和fd2在timeout時(shí)間內(nèi)是否分別可讀和可寫就可以這樣:
先把兩個(gè)句柄集(file descriptors)清零:
        FD_ZERO (&readfds);
        FD_ZERO (&writefds);
然后把fd1加入讀檢測集:
        FD_SET (fd1, &readfds);
然后把fd2加入寫檢測集:
        FD_SET (fd2, &writefds);
再給timeout設(shè)置值,timeout是這樣的一個(gè)結(jié)構(gòu):
              struct timeval {
                  long    tv_sec;         /* seconds */
                  long    tv_usec;        /* microseconds */
              };
你可以這樣賦值:
        timeout.tv_sec=1;
        timeout.tv_uec=0;
表示檢測在1秒鐘內(nèi)是否有句柄狀態(tài)發(fā)生變化。
如果有句柄發(fā)生變化,就可以用FD_ISSET檢測各個(gè)句柄,比如:
                FD_ISSET (fd1, &readfds);//檢測是否fd1變成可讀的了
                FD_ISSET (fd2, &writefds);//檢測是否fd2變成可寫的了
示意程序代碼如下:

  1. /*----------------------示意代碼開始--------------------------------------------*/
  2.     fd1 = socket();//創(chuàng)建一個(gè)socket
  3.     fd2 = socket();//創(chuàng)建一個(gè)socket
  4.     while(1)  {
  5.         FD_ZERO (&readfds);
  6.         FD_ZERO (&writefds);
  7.         FD_SET (fd1, &readfds);
  8.         FD_SET (fd2, &writefds);
  9.         timeout.tv_sec=1;
  10.         timeout.tv_uec=0;
  11.         ret = select(fd1>fd2?(fd1+1):(fd2+1), &readfds, &writefds, NULL, &timeout);
  12.         if(ret < 0) {printf("系統(tǒng)錯(cuò)誤,select出錯(cuò),錯(cuò)誤代碼:%d, 錯(cuò)誤信息:%s", errno, strerror(errno));}
  13.         else if(ret == 0) {printf("select超時(shí)返回,沒有任何句柄狀態(tài)發(fā)生變化!");}
  14.         //有句柄狀態(tài)發(fā)生了變化
  15.         if(FD_ISSET(fd1, &readfds)) {
  16.             fd1有數(shù)據(jù)可讀;
  17.             fd1里的數(shù)據(jù)被讀出來;
  18.         }
  19.         if(FD_ISSET(fd2, &writefds)) {
  20.             fd2可寫;
  21.             fd2里發(fā)送數(shù)據(jù)給對方;
  22.         }
  23.     }
  24. /*----------------------示意代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

經(jīng)常用到的幾個(gè)自定義函數(shù):
1、開啟監(jiān)聽的函數(shù)

  1. /*----------------------源代碼代碼開始--------------------------------------------*/
  2. int
  3. OpenSCPServer(int port, int total, int sendbuflen, int recvbuflen, int blockORnot, int reuseORnot)    {
  4. /*************************關(guān)于本函數(shù)************************************
  5. *function_name: OpenSCPServer
  6. *參數(shù)說明:port整數(shù)型監(jiān)聽端口號,total整數(shù)型監(jiān)聽個(gè)數(shù),sendbuflen整數(shù)型發(fā)送緩沖區(qū)大小
  7. *          recvbuflen整數(shù)型接收緩沖區(qū)大小,blockORnot整數(shù)型是否阻塞,reuseORnot整數(shù)型是否端口重用
  8. *purpose: 用來建立一個(gè)tcp服務(wù)端socket
  9. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  10. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  11. *date time:2006-07-05 20:00:00
  12. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  13. * 但請遵循GPL
  14. *Thanks to: Paul Sheer 感謝Paul Sheer在select_tut的man手冊里提供了這份源代碼
  15. *Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
  16. *Note:要使用此函數(shù)需要自定義一個(gè)全局變量char errorMessage[1024];并包含GetCurrentTime.h頭文件
  17. *********************************************************************/
  18.     int    sockfd = 0, ret = 0, opt = 0, flags=1;
  19.     struct sockaddr_in    laddr;

  20.     ret = sockfd = socket(PF_INET, SOCK_STREAM, 0);
  21.     if(ret < 0)    {
  22.         sprintf(errorMessage, "OpenTCPServer socket() error! return:%d, errno=%d, errortext:'%s' %s", ret, errno, strerror(errno), GetCurrentTime(0, 0));
  23.         return -1;
  24.     }

  25.     ret = setsockopt(sockfd, SOL_SOCKET, SO_REUSEADDR, &reuseORnot, sizeof(int));
  26.     if(ret < 0)    {
  27.         sprintf(errorMessage, "OpenTCPServer setsockopt() reuse error! return:%d, errno=%d, errortext:'%s' %s", ret, errno, strerror(errno), GetCurrentTime(0, 0));
  28.         return -2;
  29.     }

  30.     ret = setsockopt(sockfd, SOL_SOCKET, SO_RCVBUF, &recvbuflen, sizeof(int));
  31.     if ( ret < 0)    {
  32.         sprintf(errorMessage, "OpenTCPServer setsockopt() recvbuf error! return:%d, errno=%d, errortext:'%s' %s", ret, errno, strerror(errno), GetCurrentTime(0, 0));
  33.         return -3;
  34.     }

  35.     ret = setsockopt(sockfd, SOL_SOCKET, SO_SNDBUF, &sendbuflen, sizeof(int));
  36.     if (ret < 0)    {
  37.         sprintf(errorMessage, "OpenTCPServer setsockopt() sendbuf error! return:%d, errno=%d, errortext:'%s' %s", ret, errno, strerror(errno), GetCurrentTime(0, 0));
  38.         return -4;
  39.     }

  40.     ioctl(sockfd,FIONBIO,&blockORnot);/*block or not*/

  41.     laddr.sin_family = PF_INET;
  42.     laddr.sin_port = htons(port);
  43.     laddr.sin_addr.s_addr = INADDR_ANY;
  44.     bzero(&(laddr.sin_zero), 8);

  45.     ret = bind(sockfd, (struct sockaddr *)&laddr, sizeof(struct sockaddr));
  46.     if(ret < 0)    {
  47.         sprintf(errorMessage, "OpenTCPServer bind() error! return:%d, errno=%d, errortext:'%s' %s", ret, errno, strerror(errno), GetCurrentTime(0, 0));
  48.         close(sockfd);
  49.         return -5;
  50.     }
  51.     ret = listen(sockfd, total);
  52.     if(ret < 0)    {
  53.         sprintf(errorMessage, "OpenTCPServer listen() error! return:%d, errno=%d, errortext:'%s' %s", ret, errno, strerror(errno), GetCurrentTime(0, 0));
  54.         close(sockfd);
  55.         return -6;
  56.     }
  57.     sprintf(errorMessage, "OpenTCPServer opened on port.%d(%d) OK, socket(%d), buf(%d:%d)! %s", port, total, sockfd, sendbuflen, recvbuflen, GetCurrentTime(0, 0));
  58.     return sockfd;
  59. }
  60. /*----------------------源代碼代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

2、連接服務(wù)器的函數(shù)

  1. /*----------------------源代碼代碼開始--------------------------------------------*/
  2. int
  3. ConnectSCPServer(char * serverip, int serverport, int blockORnot)    {
  4. /*************************關(guān)于本函數(shù)************************************
  5. *function_name: ConnectSCPServer
  6. *參數(shù)說明:serverip服務(wù)器IP地址或主機(jī)名,serverport服務(wù)器端口,blockORnot整數(shù)型是否阻塞
  7. *purpose: 用來建立一個(gè)tcp客戶端socket
  8. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  9. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  10. *date time:2006-07-05 20:40:00
  11. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  12. * 但請遵循GPL
  13. *Thanks to: Paul Sheer 感謝Paul Sheer在select_tut的man手冊里提供了這份源代碼
  14. *Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
  15. *Note:要使用此函數(shù)需要自定義一個(gè)全局變量char errorMessage[1024];并包含自己編寫的GetCurrentTime.h頭文件
  16. *********************************************************************/
  17.     int    serversock = 0, ret = 0;
  18.     unsigned long    addr;
  19.     struct sockaddr_in    sin;
  20.     struct hostent *he;

  21.     if((he=gethostbyname(serverip))== 0) {
  22.         sprintf(errorMessage, "ConnectSCPServer IP address '%s' error! return:-1 %s", serverip, GetCurrentTime(0, 0));
  23.         return -1;
  24.     }

  25.     serversock = socket(PF_INET, SOCK_STREAM, 0);
  26.     if(serversock == -1)    {
  27.         sprintf(errorMessage, "ConnectSCPServer socket() error! return:-2, errno=%d, errortext:'%s' %s", errno, strerror(errno), GetCurrentTime(0, 0));
  28.         return -2;
  29.     }

  30.     ioctl(serversock, FIONBIO, &blockORnot);  //block or not

  31.     memset((char*)&sin, 0, sizeof(struct sockaddr_in));
  32.     sin.sin_family = PF_INET;
  33.     sin.sin_port = htons(serverport);
  34.     sin.sin_addr = *((struct in_addr *)he->h_addr);

  35.     ret = connect(serversock, (struct sockaddr *)&sin, sizeof(sin));

  36.     if(ret == -1)    {
  37.         sprintf(errorMessage, "ConnectSCPServer connect() error! return:-3, errno=%d, errortext:'%s' %s", errno, strerror(errno), GetCurrentTime(0, 0));
  38.         close(serversock);
  39.         return -3;
  40.     }

  41.     return serversock;
  42. }
  43. /*----------------------源代碼代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

3、發(fā)送數(shù)據(jù)函數(shù)Send

  1. /*----------------------源代碼代碼開始--------------------------------------------*/
  2. int
  3. Send(int sock, char * buf, size_t size, int flag, int timeout)    {
  4. /*************************關(guān)于本函數(shù)************************************
  5. *function_name: Send
  6. *參數(shù)說明:sock整數(shù)型socket,buf待發(fā)送的內(nèi)容,size要發(fā)送的大小,flag發(fā)送選項(xiàng),timeout超時(shí)時(shí)間值
  7. *purpose: 用來通過一個(gè)socket在指定時(shí)間內(nèi)發(fā)送數(shù)據(jù)
  8. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  9. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  10. *date time:2006-07-05 20:58:00
  11. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  12. * 但請遵循GPL
  13. *Thanks to: Paul Sheer 感謝Paul Sheer在select_tut的man手冊里提供了這份源代碼
  14. *Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
  15. *Note:要使用此函數(shù)需要自定義一個(gè)全局變量char errorMessage[1024];并包含自己編寫的GetCurrentTime.h頭文件
  16. *********************************************************************/
  17.     int i = 0, ret = 0, intretry = 0;

  18.     struct timeval tival;
  19.     fd_set writefds;
  20.     int maxfds = 0;

  21.     tival.tv_sec = timeout;
  22.     tival.tv_usec = 0;

  23.     FD_ZERO(&writefds);

  24.     if(sock > 0) {
  25.         FD_SET(sock, &writefds);
  26.         maxfds=((sock > maxfds)?sock:maxfds);
  27.     }
  28.     else    {
  29.         sprintf(errorMessage, "Send socket:%d error! return:-2 %s", sock, GetCurrentTime(0, 0));
  30.         return -2;
  31.     }

  32.     ret = select(maxfds + 1, NULL, &writefds, NULL, &tival);
  33.     if(ret <= 0) {
  34.         if(ret < 0)    sprintf(errorMessage, "Send socket:%d select() error! return:%d, errno=%d, errortext:'%s' %s", sock, ret, errno, strerror(errno), GetCurrentTime(0, 0));
  35.         else sprintf(errorMessage, "Send socket:%d select timeout(%d)! %s", sock, timeout, GetCurrentTime(0, 0));
  36.         close(sock);
  37.         return -3;
  38.     }
  39.     if(!(FD_ISSET(sock, &writefds)))    {
  40.         sprintf(errorMessage, "Send socket:%d not in writefds! %s", sock, GetCurrentTime(0, 0));
  41.         close(sock);
  42.         return -4;
  43.     }

  44.     while(i < size)    {
  45.         ret = send(sock, buf + i, size - i, flag);
  46.         if(ret <= 0)    {
  47.             sprintf(errorMessage, "Send socket:%d send() error! return:%d, errno=%d, errortext:'%s' %s", sock, ret, errno, strerror(errno), GetCurrentTime(0, 0));

  48.             if (EINTR == errno)
  49.               if(intretry < 10)  {intretry++;continue;}
  50.               else sprintf(errorMessage, "Send socket:%d send() error!EINTR 10 times! %s", sock, GetCurrentTime(0, 0));

  51.             close(sock);
  52.             return -1;
  53.         }
  54.         else i += ret;
  55.     }
  56.     sprintf(errorMessage, "Send socket:%d send() OK! %d/%d bytes sent! %s", sock, i, size, GetCurrentTime(0, 0));
  57.     return i;
  58. }
  59. /*----------------------源代碼代碼結(jié)束--------------------------------------------*/
復(fù)制代碼

4、接收數(shù)據(jù)函數(shù)Recv

  1. /*----------------------源代碼代碼開始--------------------------------------------*/
  2. int
  3. Recv(int sock, char * buf, size_t size, int flag, int timeout)    {
  4. /*************************關(guān)于本函數(shù)************************************
  5. *function_name: Recv
  6. *參數(shù)說明:sock整數(shù)型socket,buf接收數(shù)據(jù)的緩沖區(qū),size要接收數(shù)據(jù)的大小,flag接收選項(xiàng),timeout超時(shí)時(shí)間值
  7. *purpose: 用來從一個(gè)socket在指定時(shí)間內(nèi)讀取數(shù)據(jù)
  8. *tidied by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)
  9. Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言
  10. *date time:2006-07-05 21:10:00
  11. *Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途
  12. * 但請遵循GPL
  13. *Thanks to: Paul Sheer 感謝Paul Sheer在select_tut的man手冊里提供了這份源代碼
  14. *Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力
  15. *Note:要使用此函數(shù)需要自定義一個(gè)全局變量char errorMessage[1024];并包含自己編寫的GetCurrentTime.h頭文件
  16. *********************************************************************/
  17.     int i = 0, ret = 0, intretry = 0;

  18.     struct timeval tival;
  19.     fd_set readfds;
  20.     int maxfds = 0;

  21.     tival.tv_sec = timeout;
  22.     tival.tv_usec = 0;

  23.     FD_ZERO(&readfds);

  24.     if(sock > 0) {
  25.         FD_SET(sock, &readfds);
  26.         maxfds=((sock > maxfds)?sock:maxfds);
  27.     }
  28.     else    {
  29.         sprintf(errorMessage, "Recv socket:%d error! return:-2 %s", sock, GetCurrentTime(0, 0));
  30.         return -2;
  31.     }

  32.     ret = select(maxfds + 1, &readfds, NULL, NULL, &tival);
  33.     if(ret <= 0) {
  34.         if(ret < 0)    sprintf(errorMessage, "Recv socket:%d select() error! return:%d, errno=%d, errortext:'%s' %s", sock, ret, errno, strerror(errno), GetCurrentTime(0, 0));
  35.         else sprintf(errorMessage, "Recv socket:%d select timeout(%d)! %s", sock, timeout, GetCurrentTime(0, 0));
  36.         close(sock);
  37.         return -3;
  38.     }
  39.     if(!(FD_ISSET(sock, &readfds)))    {
  40.         sprintf(errorMessage, "Recv socket:%d not in readfds! %s", sock, GetCurrentTime(0, 0));
  41.         close(sock);
  42.         return -4;
  43.     }
  44.     while(i < size)    {
  45.         ret = recv(sock, buf + i, size - i, flag);
  46.         if(ret <= 0){
  47.             sprintf(errorMessage, "Recv socket:%d recv() error! return:%d, errno=%d, errortext:'%s' %s", sock, ret, errno, strerror(errno), GetCurrentTime(0, 0));
  48.             if(errno == EINTR)   
  49.                 if(intretry < 10)  {intretry++;continue;}
  50.                 else sprintf(errorMessage, "Recv socket:%d recv() error! EINTR 10 times! %s", sock, GetCurrentTime(0, 0));
  51.             close(sock);
  52.             return -1;
  53.         }
  54.         else i += ret;
  55.     }
  56.     sprintf(errorMessage, "Recv socket:%d recv() OK! %d/%d bytes received! %s", sock, i, size, GetCurrentTime(0, 0));
  57.     return i;
  58. }
復(fù)制代碼

最后需要說明的是:我這里講到的源程序并不能實(shí)際地作為一個(gè)產(chǎn)品程序來用,實(shí)際情況下可能會(huì)有其它許多工作要做,比如可能要建立共享隊(duì)列來存放 socket里讀到的消息,也可能把發(fā)送消息先進(jìn)行排隊(duì)然后再調(diào)用Send函數(shù)。還有,如果不是全數(shù)字,在發(fā)送前一定要htonl轉(zhuǎn)換為網(wǎng)絡(luò)字節(jié)序,同理接收到后一定要先ntohl由網(wǎng)絡(luò)字節(jié)序轉(zhuǎn)換為主機(jī)字節(jié)序,否則對方發(fā)送過來的0x00000001在你這里可能是0x00010000,因?yàn)楦叩臀豁樞虿煌?br />
[ 本帖最后由 zhoulifa 于 2006-10-19 08:36 編輯 ]

論壇徽章:
1
2015年辭舊歲徽章
日期:2015-03-03 16:54:15
3 [報(bào)告]
發(fā)表于 2006-07-06 08:12 |只看該作者
進(jìn)入2.6內(nèi)核時(shí)代, select應(yīng)該進(jìn)垃圾堆了
高并發(fā)服務(wù)器用select效率極低, 特別是使用非阻塞IO時(shí)更是慢得一蹋糊涂
改用epoll會(huì)大大改善
我一個(gè)程序監(jiān)聽從8000到18000共計(jì)1萬個(gè)端口, 啟動(dòng)1萬個(gè)LISTEN
用epoll來阻塞, 系統(tǒng)非常輕松, 完全沒有驚群現(xiàn)象

epoll用法比select簡單

初始化:創(chuàng)建epoll描述字; 向epoll描述字添加需要響應(yīng)的套接字, 初始化過程只要一次即可

使用: 等待epoll事件發(fā)生, 提取事件的套接字進(jìn)行相應(yīng)的讀寫操作


static int        s_epfd;//epoll描述字

{//初始化epoll
        struct epoll_event        ev;

        //設(shè)置epoll
        s_epfd = epoll_create(65535);

        {//這個(gè)過程可以循環(huán)以便加入多個(gè)LISTEN套接字進(jìn)入epoll事件集合
                //服務(wù)器監(jiān)聽創(chuàng)建
                rc = listen();//listen參數(shù)這里省略

                //加入epoll事件集合
                ev.events = EPOLLIN;
                ev.data.fd = rc;
                if (epoll_ctl(s_epfd, EPOLL_CTL_ADD, rc, &ev) < 0) {
                        fprintf(stderr, "epoll set insertion error: fd=%d", rc);
                        return(-1);
                }
        }
}

{//epoll事件處理
        int        i, nfds, sock_new;
        struct epoll_event        events[16384];
        for( ; ; ) {
                //等待epoll事件
                nfds = epoll_wait(s_epfd, events, 16384, -1);
                //處理epoll事件
                for(i = 0; i < nfds; i++) {
                        //events[i].data.fd是epoll事件中彈出的套接字
                        //接收連接
                        sock_new = accept(events[i].data.fd);//accept其它參數(shù)這里省略了
                        if(0 > sock_new) {
                                fprintf(stderr, "接收客戶端連接失敗\n");
                                continue;
                        }
                }
        }
}

論壇徽章:
0
4 [報(bào)告]
發(fā)表于 2006-07-06 08:34 |只看該作者
Very good!又長見識了。
safedead , 不介意收藏你的示意代碼吧?

論壇徽章:
0
5 [報(bào)告]
發(fā)表于 2006-07-06 09:00 |只看該作者
好人呢

論壇徽章:
0
6 [報(bào)告]
發(fā)表于 2006-07-06 22:36 |只看該作者

Linux 2.6內(nèi)核中提高網(wǎng)絡(luò)I/O性能的新方法epoll

正如我昨天在“Linux下各類TCP網(wǎng)絡(luò)服務(wù)器的實(shí)現(xiàn)源代碼”(http://zhoulifa.bokee.com/5345930.html)一文中提到的那樣,I/O多路復(fù)用技術(shù)在比較多的TCP網(wǎng)絡(luò)服務(wù)器中有使用,即比較多的用到select函數(shù)。

感謝chinaunix.net上朋友safedead(http://72891.cn/viewpro.php?uid=407631)提醒,我今天仔細(xì)研究了一下,證實(shí)了在2.6內(nèi)核中的新的I/O技術(shù)epoll。



1、為什么select是落后的?

首先,在Linux內(nèi)核中,select所用到的FD_SET是有限的,即內(nèi)核中有個(gè)參數(shù)__FD_SETSIZE定義了每個(gè)FD_SET的句柄個(gè)數(shù),在我用的2.6.15-25-386內(nèi)核中,該值是1024,搜索內(nèi)核源代碼得到:

include/linux/posix_types.h:#define __FD_SETSIZE        1024

也就是說,如果想要同時(shí)檢測1025個(gè)句柄的可讀狀態(tài)是不可能用select實(shí)現(xiàn)的;蛘咄瑫r(shí)檢測1025個(gè)句柄的可寫狀態(tài)也是不可能的。

其次,內(nèi)核中實(shí)現(xiàn)select是用輪詢方法,即每次檢測都會(huì)遍歷所有FD_SET中的句柄,顯然,select函數(shù)執(zhí)行時(shí)間與FD_SET中的句柄個(gè)數(shù)有一個(gè)比例關(guān)系,即select要檢測的句柄數(shù)越多就會(huì)越費(fèi)時(shí)。

當(dāng)然,在前文中我并沒有提及poll方法,事實(shí)上用select的朋友一定也試過poll,我個(gè)人覺得select和poll大同小異,個(gè)人偏好于用select而已。



/************關(guān)于本文檔********************************************

*filename: Linux 2.6內(nèi)核中提高網(wǎng)絡(luò)I/O性能的新方法epoll

*purpose: 補(bǔ)充“Linux下各類TCP網(wǎng)絡(luò)服務(wù)器的實(shí)現(xiàn)源代碼”一文的不足之處

*wrote by: zhoulifa(zhoulifa@163.com) 周立發(fā)(http://zhoulifa.9999mb.com)

Linux愛好者 Linux知識傳播者 SOHO族 開發(fā)者 最擅長C語言

*date time:2006-07-06 22:30:00

*Note: 任何人可以任意復(fù)制代碼并運(yùn)用這些文檔,當(dāng)然包括你的商業(yè)用途

* 但請遵循GPL

*Hope:希望越來越多的人貢獻(xiàn)自己的力量,為科學(xué)技術(shù)發(fā)展出力

*********************************************************************/



2、2.6內(nèi)核中提高I/O性能的新方法epoll



epoll是什么?按照man手冊的說法:是為處理大批量句柄而作了改進(jìn)的poll。要使用epoll只需要這三個(gè)系統(tǒng)調(diào)用:epoll_create(2), epoll_ctl(2), epoll_wait(2)。

當(dāng)然,這不是2.6內(nèi)核才有的,它是在2.5.44內(nèi)核中被引進(jìn)的(epoll(4) is a new API introduced in Linux kernel 2.5.44)



以下文章轉(zhuǎn)自滕昱的Web Log http://mechgouki.spaces.msn.com/blog/PersonalSpace.aspx
/*********************************引用開始******************************/

Linux2.6內(nèi)核epoll介紹---我的blog 2005/3/30



[作者]:滕昱,2005/3/30,0.1版本



[版權(quán)聲明]:此文檔遵循GNU自由文檔許可證(GNU Free Documentation License).任何人可以自由復(fù)制,分發(fā),修改,不過如果方便,請注明出處和作者



(1)導(dǎo)言:



首先,我強(qiáng)烈建議大家閱讀Richard Stevens著作《TCP/IP Illustracted Volume 1,2,3》和《UNIX Network Programming Volume 1,2》。雖然他離開我們大家已經(jīng)5年多了,但是他的書依然是進(jìn)入網(wǎng)絡(luò)編程的最直接的道路。其中的3卷的《TCP/IP Illustracted》卷1是必讀-如果你不了解tcp協(xié)議各個(gè)選項(xiàng)的詳細(xì)定義,你就失去了優(yōu)化程序重要的一個(gè)手段。卷2,3可以選讀一下。比如卷2 講解的是4.4BSD內(nèi)核TCP/IP協(xié)議棧實(shí)現(xiàn)----這個(gè)版本的協(xié)議棧幾乎影響了現(xiàn)在所有的主流os,但是因?yàn)槟甏眠h(yuǎn),內(nèi)容不一定那么vogue. 在這里我多推薦一本《The Linux Networking Architecture--Design and Implementation of Network Protocols in the Linux Kernel》,以2.4內(nèi)核講解Linux TCP/IP實(shí)現(xiàn),相當(dāng)不錯(cuò).作為一個(gè)現(xiàn)實(shí)世界中的實(shí)現(xiàn),很多時(shí)候你必須作很多權(quán)衡,這時(shí)候參考一個(gè)久經(jīng)考驗(yàn)的系統(tǒng)更有實(shí)際意義。舉個(gè)例子,linux內(nèi)核中sk_buff結(jié)構(gòu)為了追求速度和安全,犧牲了部分內(nèi)存,所以在發(fā)送TCP包的時(shí)候,無論應(yīng)用層數(shù)據(jù)多大,sk_buff最小也有272的字節(jié).



其實(shí)對于socket應(yīng)用層程序來說,《UNIX Network Programming Volume 1》意義更大一點(diǎn).2003年的時(shí)候,這本書出了最新的第3版本,不過主要還是修訂第2版本。其中第6章《I/O Multiplexing》是最重要的。Stevens給出了網(wǎng)絡(luò)IO的基本模型。在這里最重要的莫過于select模型和Asynchronous I/O模型.從理論上說,AIO似乎是最高效的,你的IO操作可以立即返回,然后等待os告訴你IO操作完成。但是一直以來,如何實(shí)現(xiàn)就沒有一個(gè)完美的方案。最著名的windows完成端口實(shí)現(xiàn)的AIO,實(shí)際上也是內(nèi)部用線程池實(shí)現(xiàn)的罷了,最后的結(jié)果是IO有個(gè)線程池,你應(yīng)用也需要一個(gè)線程池...... 很多文檔其實(shí)已經(jīng)指出了這帶來的線程context-switch帶來的代價(jià)。



在linux 平臺(tái)上,關(guān)于網(wǎng)絡(luò)AIO一直是改動(dòng)最多的地方,2.4的年代就有很多AIO內(nèi)核patch,最著名的應(yīng)該算是SGI那個(gè)。但是一直到2.6內(nèi)核發(fā)布,網(wǎng)絡(luò)模塊的AIO一直沒有進(jìn)入穩(wěn)定內(nèi)核版本(大部分都是使用用戶線程模擬方法,在使用了NPTL的linux上面其實(shí)和windows的完成端口基本上差不多了)。2.6內(nèi)核所支持的AIO特指磁盤的AIO---支持io_submit(),io_getevents()以及對Direct IO的支持(就是繞過VFS系統(tǒng)buffer直接寫硬盤,對于流服務(wù)器在內(nèi)存平穩(wěn)性上有相當(dāng)幫助)。



所以,剩下的select模型基本上就是我們在linux上面的唯一選擇,其實(shí),如果加上no-block socket的配置,可以完成一個(gè)"偽"AIO的實(shí)現(xiàn),只不過推動(dòng)力在于你而不是os而已。不過傳統(tǒng)的select/poll函數(shù)有著一些無法忍受的缺點(diǎn),所以改進(jìn)一直是2.4-2.5開發(fā)版本內(nèi)核的任務(wù),包括/dev/poll,realtime signal等等。最終,Davide Libenzi開發(fā)的epoll進(jìn)入2.6內(nèi)核成為正式的解決方案



(2)epoll的優(yōu)點(diǎn)



<1>支持一個(gè)進(jìn)程打開大數(shù)目的socket描述符(FD)



select 最不能忍受的是一個(gè)進(jìn)程所打開的FD是有一定限制的,由FD_SETSIZE設(shè)置,默認(rèn)值是2048。對于那些需要支持的上萬連接數(shù)目的IM服務(wù)器來說顯然太少了。這時(shí)候你一是可以選擇修改這個(gè)宏然后重新編譯內(nèi)核,不過資料也同時(shí)指出這樣會(huì)帶來網(wǎng)絡(luò)效率的下降,二是可以選擇多進(jìn)程的解決方案(傳統(tǒng)的Apache方案),不過雖然linux上面創(chuàng)建進(jìn)程的代價(jià)比較小,但仍舊是不可忽視的,加上進(jìn)程間數(shù)據(jù)同步遠(yuǎn)比不上線程間同步的高效,所以也不是一種完美的方案。不過 epoll則沒有這個(gè)限制,它所支持的FD上限是最大可以打開文件的數(shù)目,這個(gè)數(shù)字一般遠(yuǎn)大于2048,舉個(gè)例子,在1GB內(nèi)存的機(jī)器上大約是10萬左右,具體數(shù)目可以cat /proc/sys/fs/file-max察看,一般來說這個(gè)數(shù)目和系統(tǒng)內(nèi)存關(guān)系很大。



<2>IO效率不隨FD數(shù)目增加而線性下降



傳統(tǒng)的select/poll另一個(gè)致命弱點(diǎn)就是當(dāng)你擁有一個(gè)很大的socket集合,不過由于網(wǎng)絡(luò)延時(shí),任一時(shí)間只有部分的socket是"活躍"的,但是select/poll每次調(diào)用都會(huì)線性掃描全部的集合,導(dǎo)致效率呈現(xiàn)線性下降。但是epoll不存在這個(gè)問題,它只會(huì)對"活躍"的socket進(jìn)行操作---這是因?yàn)樵趦?nèi)核實(shí)現(xiàn)中epoll是根據(jù)每個(gè)fd上面的callback函數(shù)實(shí)現(xiàn)的。那么,只有"活躍"的socket才會(huì)主動(dòng)的去調(diào)用 callback函數(shù),其他idle狀態(tài)socket則不會(huì),在這點(diǎn)上,epoll實(shí)現(xiàn)了一個(gè)"偽"AIO,因?yàn)檫@時(shí)候推動(dòng)力在os內(nèi)核。在一些 benchmark中,如果所有的socket基本上都是活躍的---比如一個(gè)高速LAN環(huán)境,epoll并不比select/poll有什么效率,相反,如果過多使用epoll_ctl,效率相比還有稍微的下降。但是一旦使用idle connections模擬WAN環(huán)境,epoll的效率就遠(yuǎn)在select/poll之上了。



<3>使用mmap加速內(nèi)核與用戶空間的消息傳遞。



這點(diǎn)實(shí)際上涉及到epoll的具體實(shí)現(xiàn)了。無論是select,poll還是epoll都需要內(nèi)核把FD消息通知給用戶空間,如何避免不必要的內(nèi)存拷貝就很重要,在這點(diǎn)上,epoll是通過內(nèi)核于用戶空間mmap同一塊內(nèi)存實(shí)現(xiàn)的。而如果你想我一樣從2.5內(nèi)核就關(guān)注epoll的話,一定不會(huì)忘記手工 mmap這一步的。



<4>內(nèi)核微調(diào)



這一點(diǎn)其實(shí)不算epoll的優(yōu)點(diǎn)了,而是整個(gè)linux平臺(tái)的優(yōu)點(diǎn)。也許你可以懷疑linux平臺(tái),但是你無法回避linux平臺(tái)賦予你微調(diào)內(nèi)核的能力。比如,內(nèi)核TCP/IP協(xié)議棧使用內(nèi)存池管理sk_buff結(jié)構(gòu),那么可以在運(yùn)行時(shí)期動(dòng)態(tài)調(diào)整這個(gè)內(nèi)存pool(skb_head_pool)的大小--- 通過echo XXXX>/proc/sys/net/core/hot_list_length完成。再比如listen函數(shù)的第2個(gè)參數(shù)(TCP完成3次握手的數(shù)據(jù)包隊(duì)列長度),也可以根據(jù)你平臺(tái)內(nèi)存大小動(dòng)態(tài)調(diào)整。更甚至在一個(gè)數(shù)據(jù)包面數(shù)目巨大但同時(shí)每個(gè)數(shù)據(jù)包本身大小卻很小的特殊系統(tǒng)上嘗試最新的NAPI網(wǎng)卡驅(qū)動(dòng)架構(gòu)。



(3)epoll的使用



令人高興的是,2.6內(nèi)核的epoll比其2.5開發(fā)版本的/dev/epoll簡潔了許多,所以,大部分情況下,強(qiáng)大的東西往往是簡單的。唯一有點(diǎn)麻煩是epoll有2種工作方式:LT和ET。



LT(level triggered)是缺省的工作方式,并且同時(shí)支持block和no-block socket.在這種做法中,內(nèi)核告訴你一個(gè)文件描述符是否就緒了,然后你可以對這個(gè)就緒的fd進(jìn)行IO操作。如果你不作任何操作,內(nèi)核還是會(huì)繼續(xù)通知你的,所以,這種模式編程出錯(cuò)誤可能性要小一點(diǎn)。傳統(tǒng)的select/poll都是這種模型的代表.



ET (edge-triggered)是高速工作方式,只支持no-block socket。在這種模式下,當(dāng)描述符從未就緒變?yōu)榫途w時(shí),內(nèi)核通過epoll告訴你。然后它會(huì)假設(shè)你知道文件描述符已經(jīng)就緒,并且不會(huì)再為那個(gè)文件描述符發(fā)送更多的就緒通知,直到你做了某些操作導(dǎo)致那個(gè)文件描述符不再為就緒狀態(tài)了(比如,你在發(fā)送,接收或者接收請求,或者發(fā)送接收的數(shù)據(jù)少于一定量時(shí)導(dǎo)致了一個(gè)EWOULDBLOCK 錯(cuò)誤)。但是請注意,如果一直不對這個(gè)fd作IO操作(從而導(dǎo)致它再次變成未就緒),內(nèi)核不會(huì)發(fā)送更多的通知(only once),不過在TCP協(xié)議中,ET模式的加速效用仍需要更多的benchmark確認(rèn)。



epoll只有epoll_create,epoll_ctl,epoll_wait 3個(gè)系統(tǒng)調(diào)用,具體用法請參考http://www.xmailserver.org/linux-patches/nio-improve.html ,

在http://www.kegel.com/rn/也有一個(gè)完整的例子,大家一看就知道如何使用了



(4)Leader/follower模式線程pool實(shí)現(xiàn),以及和epoll的配合



.....未完成,主要是要避免過多的epoll_ctl調(diào)用,以及嘗試使用EPOLLONESHOT加速......



(5)benchmark



.......未完成

/*********************************引用結(jié)束******************************/


3、epoll的使用方法

這是epoll的man手冊提供的一個(gè)例子,這段代碼假設(shè)一個(gè)非阻塞的socket監(jiān)聽listener被建立并且一個(gè)epoll句柄kdpfd已經(jīng)提前用epoll_create建立了:


  1.        struct epoll_event ev, *events;



  2.        for(;;) {

  3.            nfds = epoll_wait(kdpfd, events, maxevents, -1);/*wait for an I/O event. All notes here added by zhoulifa(http://zhoulifa.bokee.com) on 2006-7-6 22:10:00*/



  4.            for(n = 0; n < nfds; ++n) {

  5.                if(events[n].data.fd == listener) {/*if listen socket has an I/O, accept the new connect*/

  6.                    client = accept(listener, (struct sockaddr *) &local,

  7.                                    &addrlen);

  8.                    if(client < 0){

  9.                        perror("accept");

  10.                        continue;

  11.                    }

  12.                    setnonblocking(client);

  13.                    ev.events = EPOLLIN | EPOLLET;/*EPOLLIN-available for read*/

  14.                    ev.data.fd = client;

  15.                    if (epoll_ctl(kdpfd, EPOLL_CTL_ADD, client, &ev) < 0) {/*add the new socket into the epoll file descriptors*/

  16.                        fprintf(stderr, "epoll set insertion error: fd=%d\n",

  17.                                client);

  18.                        return -1;

  19.                    }

  20.                }

  21.                else

  22.                    do_use_fd(events[n].data.fd);/*read from a socket which has data come*/

  23.            }

  24.        }

復(fù)制代碼

4、epoll使用方法示意代碼

以下代碼由chinaunix.net上BBS用戶safedead(http://72891.cn/viewpro.php?uid=407631)提供:




  1. static int        s_epfd;//epoll描述字



  2. {//初始化epoll

  3.         struct epoll_event        ev;



  4.         //設(shè)置epoll

  5.         s_epfd = epoll_create(65535);



  6.         {//這個(gè)過程可以循環(huán)以便加入多個(gè)LISTEN套接字進(jìn)入epoll事件集合

  7.                 //服務(wù)器監(jiān)聽創(chuàng)建

  8.                 rc = listen();//listen參數(shù)這里省略



  9.                 //加入epoll事件集合

  10.                 ev.events = EPOLLIN;

  11.                 ev.data.fd = rc;

  12.                 if (epoll_ctl(s_epfd, EPOLL_CTL_ADD, rc, &ev) < 0) {

  13.                         fprintf(stderr, "epoll set insertion error: fd=%d", rc);

  14.                         return(-1);

  15.                 }

  16.         }

  17. }



  18. {//epoll事件處理

  19.         int        i, nfds, sock_new;

  20.         struct epoll_event        events[16384];

  21.         for( ; ; ) {

  22.                 //等待epoll事件

  23.                 nfds = epoll_wait(s_epfd, events, 16384, -1);

  24.                 //處理epoll事件

  25.                 for(i = 0; i < nfds; i++) {

  26.                         //events[i].data.fd是epoll事件中彈出的套接字

  27.                         //接收連接

  28.                         sock_new = accept(events[i].data.fd);//accept其它參數(shù)這里省略了

  29.                         if(0 > sock_new) {

  30.                                 fprintf(stderr, "接收客戶端連接失敗\n");

  31.                                 continue;

  32.                         }

  33.                 }

  34.         }

  35. }

復(fù)制代碼

對照safedead和前面的一份代碼,我想大家一定是明白了的。



5、參考文檔

Improving (network) I/O performance ...

http://www.xmailserver.org/linux-patches/nio-improve.html

[ 本帖最后由 zhoulifa 于 2006-10-19 08:38 編輯 ]

論壇徽章:
0
7 [報(bào)告]
發(fā)表于 2006-07-09 21:41 |只看該作者
好貼!支持!

論壇徽章:
0
8 [報(bào)告]
發(fā)表于 2006-07-10 15:16 |只看該作者
呵呵!整理的很好啊,講的也很詳細(xì),就是最后給的幾個(gè)函數(shù)在考慮多點(diǎn)兒通用性就更完美了,比如我不想設(shè)置timeout怎么辦!

論壇徽章:
0
9 [報(bào)告]
發(fā)表于 2006-07-11 11:20 |只看該作者

求書

《The Linux Networking Architecture--Design and Implementation of Network Protocols in the Linux Kernel》這本書的電子版本哪位有?

論壇徽章:
0
10 [報(bào)告]
發(fā)表于 2006-07-11 17:51 |只看該作者
先收了,以后慢慢看!多謝樓主!
您需要登錄后才可以回帖 登錄 | 注冊

本版積分規(guī)則 發(fā)表回復(fù)

  

北京盛拓優(yōu)訊信息技術(shù)有限公司. 版權(quán)所有 京ICP備16024965號-6 北京市公安局海淀分局網(wǎng)監(jiān)中心備案編號:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年舉報(bào)專區(qū)
中國互聯(lián)網(wǎng)協(xié)會(huì)會(huì)員  聯(lián)系我們:huangweiwei@itpub.net
感謝所有關(guān)心和支持過ChinaUnix的朋友們 轉(zhuǎn)載本站內(nèi)容請注明原作者名及出處

清除 Cookies - ChinaUnix - Archiver - WAP - TOP