nginx并發(fā)到1000就出現(xiàn)假死，然后重啟就好了，看后臺系統(tǒng)的流量圖形很怪異見附件

royzs

看阿里云后臺流量圖形也很怪異，斷斷續(xù)續(xù)的，我懷疑就是程序假死，并發(fā)支撐不了超過1000，nginx并發(fā)不是4萬么，求助求助


nginx_status內(nèi)容如下

1. Active connections: 951
   
2. server accepts handled requests
   
3. 428729 423504 796115
   
4. Reading: 0 Writing: 40 Waiting: 911

復制代碼

Active connections這個數(shù)值從來沒超過1000過

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
的內(nèi)容如下

1. TIME_WAIT 18216
   
2. CLOSE_WAIT 3
   
3. SYN_SENT 2
   
4. FIN_WAIT1 122
   
5. ESTABLISHED 1065
   
6. FIN_WAIT2 666
   
7. SYN_RECV 7
   
8. CLOSING 2
   
9. LAST_ACK 48

復制代碼

royzs

網(wǎng)站運行運行著再看nginx_status就變成這樣了，900多變成幾百了

1. Active connections: 510
   
2. server accepts handled requests
   
3. 528566 519322 966128
   
4. Reading: 0 Writing: 510 Waiting: 0

復制代碼

royzs

網(wǎng)站速度也特別慢，我的nginx配置是這樣的

1. server {
   
2.         listen       80;
   
3.         server_name www.sc.com;
   
4.         index index.html index.htm index.php;
   
5.         root  /mnt/www/fanwe;
   
6. 
   
7.     location / {
   
8.         root  /mnt/www/fanwe;
   
9.         index  index.html index.htm index.php;
   
10.     }
    
11. 
    
12.     location /ngx_status
    
13.     {
    
14.         stub_status on;
    
15.         access_log off;
    
16.     }
    
17. 
    
18.     location ~ \.php$ {
    
19.        root           html;
    
20.        fastcgi_pass   127.0.0.1:9000;
    
21.        fastcgi_index  index.php;
    
22.        fastcgi_param SCRIPT_FILENAME    /mnt/www/fanwe$fastcgi_script_name;
    
23.        include        fastcgi_params;
    
24.     }
    
25. 
    
26.         location ~ .*\.(php|php5)?$ {
    
27.                 fastcgi_pass unix:/tmp/php-cgi.sock;
    
28.                 fastcgi_index index.php;
    
29.                 #include fcgi.conf;
    
30.         }
    
31. 
    
32.         location ~ .*\.(ico|jpg|jpeg|png|gif)$ {
    
33.                 expires 1y;
    
34.                 valid_referers none blocked www.sc.com *.google.com *.baidu.com;
    
35.                 if ($invalid_referer) {
    
36.                         return 404;
    
37.                 }
    
38.         }
    
39. }

復制代碼

lyhabc

渣打銀行            
TIME_WAIT 18216
TIME_WAIT 有點多喔
連接關閉后，進入TIME_WAIT狀態(tài)，缺省時間是2分鐘。之所以留這個時間，是為了讓數(shù)據(jù)包能完全通過 各種規(guī)則的檢查，也是為了數(shù)據(jù)包能通過擁擠的路由器，從而到達目的地。
服務器在等到客戶端關閉連接

調(diào)節(jié)內(nèi)核參數(shù)
Linux標準的發(fā)行版不可能知道你目前運行的網(wǎng)絡環(huán)境，所以還得靠你自己利用可以調(diào)
節(jié)的內(nèi)核參數(shù)動態(tài)優(yōu)化TCP[IP棧。例如長連接會占用大量資源，在大并發(fā)的情況下，連接
過多將導致無數(shù)的連接失敗。通常Apache采用短連接，nginx采用短連接，MySQI采用短
連接。但是短連接可能會導致TIME_ WAIT增多。TIME_WAIT的增多一般不會有太大的問題，但是大量的TIME—WAIT套接字也會把squid等網(wǎng)絡應用給拖死。這時，調(diào)節(jié)幾個內(nèi)核參數(shù)就能搞定：

1. tw：time_wait
   
2. # ehc0 1> /proc/sys/net/ipv4/tcp_tw_reuse
   
3. # ehc0 1>/proc/sys/net/ipv4/tcp_tw_recycle
   
4. # ech0 6000>/proc/sys/net/ipv4/tcp_max_tw_buckets

復制代碼

reuse是表示是否允許新的TCP連接重新應用處于TIME_WAIT狀態(tài)的socket; recycle
是加速TIME_WAIT sockets回收；max _tw _buckets表示TIME_WAIT套接字的最大數(shù)量，如
果超過這個數(shù)字，TIME_WAIT饔接字將立刻被清除并打印警告信息。這些設置提高了處理
效率，還能把TIME_WAIT所占用內(nèi)存控制在一定范圍。

lyhabc

TIME_WAIT 18216
CLOSE_WAIT 3
SYN_SENT 2
FIN_WAIT1 122
ESTABLISHED 1065
FIN_WAIT2 666
SYN_RECV 7
CLOSING 2
LAST_ACK 48

royzs

回復 4# lyhabc


    tw：time_wait
# ehc0 1> /proc/sys/net/ipv4/tcp_tw_reuse
# ehc0 1>/proc/sys/net/ipv4/tcp_tw_recycle
# ech0 6000>/proc/sys/net/ipv4/tcp_max_tw_buckets

前兩個參數(shù)都改過的，最下面的那個參數(shù)最開始是5000，不夠用，系統(tǒng)一直報錯kernel: TCP: time wait bucket table overflow
我給調(diào)成了2萬，3萬都不行，最后改成5萬不再報錯了，但是現(xiàn)在網(wǎng)站還是不穩(wěn)定，剛啟動nginx的時候看并發(fā)連接從一兩百一直漲到900多1000多點，過幾分鐘或者半小時nginx就假死了，出現(xiàn)502，重啟之后又是循環(huán)，所以流量圖形里面顯示斷斷續(xù)續(xù)的

lyhabc

神馬版本的nginx？
是不是阿里云參數(shù)設置問題？

lyhabc

worker_processes 1;
error_log /usr/local/nginx/logs/nginx_error.log crit;
pid /usr/local/nginx/logs/nginx.pid;
worker_rlimit_nofile 51200;
events
{
use epoll;
worker_connections 6000;
}

nginx.conf 你這里設置是多少？

royzs

回復 7# lyhabc


    nginx 1.8.0

阿里云的sysctl.conf我改過，貼一下出來

1. # sysctl -p
   
2. net.ipv4.ip_forward = 0
   
3. net.ipv4.conf.default.accept_source_route = 0
   
4. kernel.sysrq = 0
   
5. kernel.core_uses_pid = 1
   
6. kernel.msgmnb = 65536
   
7. kernel.msgmax = 65536
   
8. kernel.shmmax = 68719476736
   
9. kernel.shmall = 4294967296
   
10. vm.swappiness = 0
    
11. net.ipv4.neigh.default.gc_stale_time = 120
    
12. net.ipv4.conf.all.rp_filter = 0
    
13. net.ipv4.conf.default.rp_filter = 1
    
14. net.ipv4.conf.default.arp_announce = 2
    
15. net.ipv4.conf.all.arp_announce = 2
    
16. net.ipv4.tcp_max_tw_buckets = 6000
    
17. net.ipv4.tcp_sack = 1
    
18. net.ipv4.tcp_window_scaling = 1
    
19. net.core.wmem_default = 8388608
    
20. net.core.rmem_default = 8388608
    
21. net.core.rmem_max = 16777216
    
22. net.core.wmem_max = 16777216
    
23. net.core.somaxconn = 262144
    
24. net.ipv4.tcp_max_orphans = 3276800
    
25. net.ipv4.tcp_max_syn_backlog = 262144
    
26. net.ipv4.tcp_timestamps = 0
    
27. net.ipv4.tcp_synack_retries = 1
    
28. net.ipv4.tcp_syn_retries = 1
    
29. net.ipv4.tcp_tw_recycle = 1
    
30. net.ipv4.tcp_mem = 94500000 915000000 927000000
    
31. net.ipv4.tcp_fin_timeout = 1
    
32. net.ipv4.tcp_keepalive_time = 30
    
33. net.ipv4.ip_local_port_range = 1024 65000
    
34. net.ipv4.tcp_syncookies = 1

復制代碼

net.ipv4.tcp_max_tw_buckets = 6000
的時候并發(fā)1000就開始假死，我改成50000后勉強4000多并發(fā)就不行了

royzs

回復 8# lyhabc


nginx.conf我的配置是這樣的

1. worker_processes 16;
   
2. worker_cpu_affinity 0000000000000001 0000000000000010 0000000000000100 0000000000001000 0000000000010000 0000000000100000 0000000001000000 0000000010000000 0000000100000000 0000001000000000 0000010000000000 0000100000000000 0001000000000000 0010000000000000 0100000000000000 1000000000000000;
   
3. 
   
4. error_log  /var/log/nginx/error.log crit;
   
5. pid        /var/run/nginx.pid;
   
6. worker_rlimit_nofile 65535;
   
7. 
   
8. events {
   
9.     use epoll;
   
10.     worker_connections  65535;
    
11. }

復制代碼