简化 Node.js 服务器的速率限制算法

Question

我为 Node.js 服务器的速率限制算法提出了一个天真的解决方案，我相信有一种方法可以简化它，但我还不确定如何。

我们希望将请求限制为每秒 50 个。所以如果最新的请求进来，并且最新的请求和前50个地方的请求之间的时间小于一秒，我们应该拒绝新的请求。

实现这个的天真的方法是使用一个包含 50 个时间戳的简单数组。每次有事件发生时，我们都会为其分配一个值 Date.now() / process.hrtime()。然后我们查看队列中第 50 个（最后一个）时间戳的时间戳值和新请求的 Date.now() 值，如果时间戳的差异大于 1 秒，那么我们接受新请求并取消移位它放到 "queue" 上，并从队列中弹出最旧的时间戳。但是，如果差异小于 1 秒，我们必须拒绝请求，并且我们不会将其移到队列中，也不会弹出最旧的时间戳。

这是我在 Express 服务器上的代码

var mostRecentRequestsTimestamps = [];

app.use(function(req,res,next){

    if(req.baymaxSource && String(req.baymaxSource).toUpperCase() === 'XRE'){

        var now = process.hrtime(); //nanoseconds

        if(mostRecentRequestsTimestamps.length < 50){
            mostRecentRequestsTimestamps.unshift(now);
            next();
        }
        else{
            var lastItem = mostRecentRequestsTimestamps.length -1;
            if(now - mostRecentRequestsTimestamps[lastItem] < 1000){  // 1000 milliseconds = 1 second
                res.status(503).json({error: 'Server overwhelmed by XRE events'});
            }
            else{
                mostRecentRequestsTimestamps.pop();
                mostRecentRequestsTimestamps.unshift(now);
                next();
            }
        }
    }
    else{
        next();
    }

});

如您所见，它只会阻止来自特定来源的事件，因此它不应该阻止其他类型的请求。这个逻辑需要一个包含 50 个时间戳的数据结构，这基本上没什么，但如果可能的话，我希望有一种方法可以进一步简化它。谁有想法？谢谢

Answer 1

这是我能做的最简单的：

// oldest request time is at front of the array
var recentRequestTimes = [];
var maxRequests = 50;
var maxRequestsTime = 1000;

app.use(function(req,res,next){
    if(req.baymaxSource && String(req.baymaxSource).toUpperCase() === 'XRE'){
        var old, now = Date.now();
        recentRequestTimes.push(now);
        if (recentRequestTimes.length >= maxRequests) {
            // get the oldest request time and examine it
            old = recentRequestTimes.shift();
            if (now - old <= maxRequestsTime) {
                // old request was not very long ago, too many coming in during that maxRequestsTime
                res.status(503).json({error: 'Exceeded 50 requests per second for XRE events'});
                return;
            }
        }
    }
    next();
});

这在概念上与您的实现有两个不同之处：

我按递增顺序使用 recentRequestTimes 数组（这对我的编程大脑来说更符合逻辑）
我总是将每个请求添加到数组中，即使它已过载。您没有计算过载的请求，我认为这是错误的。这也简化了代码，因为您可以在一个地方的函数开头添加当前时间，然后只处理数组。

简化 Node.js 服务器的速率限制算法

Simplify a rate limiting algorithm for Node.js server

algorithm

rate-limiting

node.js

server