Nginx proxy_read_timeout与proxy_connect_timeout

我已经开始将Nginx用作一组提供某种服务的服务器的反向代理。

该服务有时可能很慢（它在Java上运行，并且JVM有时会陷入“完全垃圾收集”，可能需要几秒钟的时间），因此我将其设置proxy_connect_timeout为2秒，这将使Nginx有足够的时间来确定知道该服务停留在GC上并且不会及时响应，因此应将请求传递给其他服务器。

proxy_read_timeout如果服务本身花费太多时间来计算响应，我还设置了防止反向代理卡住的方法-再次，它应将请求移至另一台服务器，该服务器应有足够的空闲时间以返回及时的响应。

我已经运行了一些基准测试，并且可以清楚地看到proxy_connect_timeout，由于服务被卡住并且不接受传入连接（该服务使用Jetty作为嵌入式），一些请求恰好在连接超时指定的时间返回，因此工作正常servlet容器）。这proxy_read_timeout也有效，因为我可以看到在此处指定的超时后返回的请求。

问题是proxy_read_timeout + proxy_connect_timeout，如果服务被卡住，并且当Nginx尝试访问它时，但在Nginx可以超时之前-它被释放，我本来希望看到一些请求在超时后或差不多该时间长度内超时。并开始处理，但速度太慢，由于读取超时，Nginx将中止。我认为该服务有这种情况，但是在运行多个基准测试后，总共发出了数百万个请求-我看不到单个请求返回的任何值都超过上述值proxy_read_timeout（这是较大的超时）。

我很乐意对此问题发表任何评论，尽管我认为这可能是由于Nginx中的错误（我尚未查看代码，所以这只是一个假设），连接后超时计数器不会重置如果Nginx没有从上游服务器读取任何内容，则表示成功。

我实际上无法在以下位置重现此内容：

2011/08/20 20:08:43 [notice] 8925#0: nginx/0.8.53
2011/08/20 20:08:43 [notice] 8925#0: built by gcc 4.1.2 20080704 (Red Hat 4.1.2-48)
2011/08/20 20:08:43 [notice] 8925#0: OS: Linux 2.6.39.1-x86_64-linode19

我在nginx.conf中进行了设置：

proxy_connect_timeout   10;
proxy_send_timeout      15;
proxy_read_timeout      20;

然后，我设置了两个测试服务器。一种会在SYN上超时，而另一种会接受连接但从不响应：

upstream dev_edge {
  server 127.0.0.1:2280 max_fails=0 fail_timeout=0s; # SYN timeout
  server 10.4.1.1:22 max_fails=0 fail_timeout=0s; # accept but never responds
}

然后我发送了一个测试连接：

[m4@ben conf]$ telnet localhost 2480
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
GET / HTTP/1.1
Host: localhost

HTTP/1.1 504 Gateway Time-out
Server: nginx
Date: Sun, 21 Aug 2011 03:12:03 GMT
Content-Type: text/html
Content-Length: 176
Connection: keep-alive

然后看了error_log显示：

2011/08/20 20:11:43 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while connecting to upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://10.4.1.1:22/", host: "localhost"

然后：

2011/08/20 20:12:03 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while reading response header from upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://127.0.0.1:2280/", host: "localhost"

然后具有预期30秒超时（10 + 20）的access.log：

504:32.931:10.003, 20.008:.:176 1 127.0.0.1 localrhost - [20/Aug/2011:20:12:03 -0700] "GET / HTTP/1.1" "-" "-" "-" dev_edge 10.4.1.1:22, 127.0.0.1:2280 -

这是我正在使用的日志格式，其中包括各个上游超时：

log_format  edge  '$status:$request_time:$upstream_response_time:$pipe:$body_bytes_sent $connection $remote_addr $host $remote_user [$time_local] "$request" "$http_referer" "$http_user_agent" "$http_x_forwarded_for" $edge $upstream_addr $upstream_cache_status';

问题是，我希望在proxy_read_timeout + proxy_connect_timeout之后，或者差不多是该时间长度，看到一些超时请求，如果服务被卡住，并且在Nginx尝试访问它但在Nginx可以超时之前不接受连接-它被释放并开始处理，但是速度太慢，Nginx将由于读取超时而中止。

连接超时意味着握手时TCP停顿（例如，没有SYN_ACK）。TCP会重试发送SYN，但是您只花了2秒钟。到Nginx去使用另一个服务器，因此它根本没有时间重新发送SYN。

UPD。：在文档中找不到，但是tcpdump显示有3秒。在第一次发送SYN和第二次尝试发送SYN之间的延迟。