对setTimeout的并发调用导致比预期更多的延迟

时间:2014-07-12 15:45:14

标签: javascript node.js performance express

我正在研究Node性能的一个小型演示,并且惊讶地看到以下示例中有50个并发调用setTimeout需要4秒而不是500毫秒。

以下代码设置了一个非常简单的快速服务器,用于侦听所有请求,并使用setTimeout在500毫秒后响应。然后它有一个客户端,它发出50个请求,传入一个数字来跟踪请求和相应的响应。

// SERVER
var express = require('express');
var app = express();

app.get('*', function (req, res) {
    setTimeout(function () {
        return res.send(req.query.i);
    }, 500);
});

app.listen(8099);

// CLIENT
var http = require('http');

function start() {
    for (var i = 0; i < 50; i++) {
        console.log(new Date().getSeconds() + ':' + new Date().getMilliseconds() + ' - Sending ' + i);
        http.get('http://localhost:8099?i=' + i, responseHandler);
    }

    function responseHandler(res) {
        res.on('data', function (body) {
            return console.log(new Date().getSeconds() + ':' + new Date().getMilliseconds() + ' - Received ' + body);
        });
    }
}

start();

我希望代码花费30-50ms来完成所有setTimeout次呼叫,然后500ms后,所有这些呼叫都将在同一时间响应。相反,我看到他们以5个为一组进行回复,每组5人之间有500毫秒。

我尝试了许多更简单的替代品,所有这些都解决了问题。如果我取出setTimeout并立即回复,则所有50个回复都会在100毫秒内完成。如果我将网络服务器排除在等式之外并且只有50次呼叫setTimeout,则所有50个呼叫都会立即排队,所有50个呼叫在500毫秒后同时返回。

当express和http调用与setTimeout结合使用时,可能导致额外延迟的原因是什么?

1 个答案:

答案 0 :(得分:1)

该问题与setTimeout无关(正如您在没有客户端/服务器设置的情况下运行测试时可能已经猜到的那样)。问题是节点http服务器在任何给定时间将处理的打开HTTP套接字的数量。

控制此设置的设置为Agent.maxSockets(有关详情,请参阅documentation)。

maxSockets的默认值为5。因此,如果您向应用发送50个请求,它将一次处理其中的5个,直到完成,然后再转到新请求。由于它们无法在setTimeout函数调用其回调之前完成,因此您的请求将以大约每500毫秒的五个突发响应。

如果您需要证明这一点,您只需更改maxSockets的值:

http.globalAgent.maxSockets = 10;

现在,您将看到请求以10的突发形式进行处理。如果将其设置为50,则应该会看到您正在寻找的行为。

请注意,由于一个很好的理由,它可能设置为5,所以我不认为&#34;解决方案&#34;问题只是将maxSockets设置为Infinity或类似的东西。

mscdex在评论中指出您可以在http.request中指定cusotm代理,并且还会对Node v0.12中的默认maxSockets进行更改。