节点事件循环混乱
Node Event Loop Confusion
有点懵,不知道自己是否完全理解了nodeJS事件loop/non-blocking I/O的概念。
假设我的服务器有:
app.get('/someURL', AuthHandler.restrict, MainHandler.findAllStocksFromUser);
findAllStocksFromUser() 的定义如下:
findAllStocksFromUser(req,res) {
/* Do some terribly inefficient, heavy computation*/
res.send(/*return something*/);
}
现在假设有 5 个请求进入。据我了解,每个请求进入时,都会将一个回调(在本例中为 findAllStocksFromUser())添加到事件循环队列中,并且每次滴答时,回调都是叫。
问题:
"terribly inefficient, heavy computation" 不会影响服务器在请求进入时有效接收请求并立即将其回调添加到队列的能力,对吗?
但是 "terribly inefficient, heavy computation" 会阻塞其他回调直到它完成,这样会导致服务器效率低下,对吧?
是的,它会影响它。 Node.js 是单线程的。这意味着 "terribly inefficient, heavy calculation" 将在处理时阻止 所有内容 。
这很容易测试:发送多个请求并查看它们的响应时间。或者只是发送一个非常大的 JSON 文件(必须对其进行解析,这可能很慢),然后再次测量响应时间。
您可以将计算分成更小的块以提高效率。
在 node.js 中,您的 Javascript 是单线程的。这意味着一次只有 Javascript 的一块是 运行。因此,一旦请求处理程序启动 运行ning,它就会保持 运行ning 直到它完全完成并 returns 返回到调用它的系统或直到它开始异步操作(DB,文件、网络等...),然后 returns 返回到调用它的系统。只有这样,其他请求才能开始处理。
因此,如果您的 "heavy computation" 确实有很多同步 Javascript 运行ning,那么在 运行ning 期间将不会处理其他请求。如果 "heavy computation" 实际上有很多异步操作,那么在处理程序等待来自异步操作的响应时,其他请求将到达 运行。
现在,针对您的具体问题:
So now let's say 5 requests come in. As I understand, with each
request that comes in, a callback, in this case
findAllStocksFromUser(), is added to the eventloop queue, and with
every tick, the callbacks are called.
这不太正确。传入请求已排队,但它的排队级别远低于仅排队您的回调。它在服务器的 Javascript 部分甚至看到请求之前就已排队(在某处的本机代码中)。
The "terribly inefficient, heavy computation" won't effect the
server's ability to efficiently receive requests as they come in and
immediately add their callbacks to the queue, correct?
传入的请求将由底层 TCP 基础结构或 node.js 中实现您的服务器的本机代码排队(在单线程 JS 中不是 运行ning)。因此,运行ning 段 Javascript 不会阻止传入请求排队(除非某些内部队列已满)。
But the "terribly inefficient, heavy computation" is going to block
the other callbacks until it's done and cause the server to be
inefficient in that way, right?
正确。如果这种低效、繁重的计算是同步代码,那么它会 运行s 直到它完成并且在 运行ning 期间没有其他请求到达 运行。
node.js 中繁重的计算代码的通常解决方案是将其重新设计为 运行 更快或尽可能使用异步操作或将其移出主进程并启动一个子进程或一组子工作者来处理繁重的计算。然后,这允许您的主请求处理程序将这种繁重的计算视为异步操作,并允许其他事情 运行 而繁重的工作正在主 node.js 线程之外完成。
虽然这有时需要更多的编码工作,但也可以将长时间的 运行ning 计算分成多个块,以便可以执行一个工作块,然后使用 setImmediate()
来安排下一个工作块,允许在您的工作块之间处理其他排队的项目。由于这些天来设置一个工作池相当快,你可以将工作交给它,我可能更喜欢这种方法,因为它还可以让你更好地利用多个 CPU,并且可以避免 "chunking" 工作和编写代码以有效地处理这种方式。
是的,这会导致服务器效率低下。由于 javascript 事件循环在单个线程上运行,因此对服务器的第一个请求将阻止处理所有其他请求。
所有其他请求都必须等待,因为事件循环被到达服务器的第一个 findAllStocksFromUser 任务阻塞。
有点懵,不知道自己是否完全理解了nodeJS事件loop/non-blocking I/O的概念。
假设我的服务器有:
app.get('/someURL', AuthHandler.restrict, MainHandler.findAllStocksFromUser);
findAllStocksFromUser() 的定义如下:
findAllStocksFromUser(req,res) {
/* Do some terribly inefficient, heavy computation*/
res.send(/*return something*/);
}
现在假设有 5 个请求进入。据我了解,每个请求进入时,都会将一个回调(在本例中为 findAllStocksFromUser())添加到事件循环队列中,并且每次滴答时,回调都是叫。
问题:
"terribly inefficient, heavy computation" 不会影响服务器在请求进入时有效接收请求并立即将其回调添加到队列的能力,对吗?
但是 "terribly inefficient, heavy computation" 会阻塞其他回调直到它完成,这样会导致服务器效率低下,对吧?
是的,它会影响它。 Node.js 是单线程的。这意味着 "terribly inefficient, heavy calculation" 将在处理时阻止 所有内容 。
这很容易测试:发送多个请求并查看它们的响应时间。或者只是发送一个非常大的 JSON 文件(必须对其进行解析,这可能很慢),然后再次测量响应时间。
您可以将计算分成更小的块以提高效率。
在 node.js 中,您的 Javascript 是单线程的。这意味着一次只有 Javascript 的一块是 运行。因此,一旦请求处理程序启动 运行ning,它就会保持 运行ning 直到它完全完成并 returns 返回到调用它的系统或直到它开始异步操作(DB,文件、网络等...),然后 returns 返回到调用它的系统。只有这样,其他请求才能开始处理。
因此,如果您的 "heavy computation" 确实有很多同步 Javascript 运行ning,那么在 运行ning 期间将不会处理其他请求。如果 "heavy computation" 实际上有很多异步操作,那么在处理程序等待来自异步操作的响应时,其他请求将到达 运行。
现在,针对您的具体问题:
So now let's say 5 requests come in. As I understand, with each request that comes in, a callback, in this case findAllStocksFromUser(), is added to the eventloop queue, and with every tick, the callbacks are called.
这不太正确。传入请求已排队,但它的排队级别远低于仅排队您的回调。它在服务器的 Javascript 部分甚至看到请求之前就已排队(在某处的本机代码中)。
The "terribly inefficient, heavy computation" won't effect the server's ability to efficiently receive requests as they come in and immediately add their callbacks to the queue, correct?
传入的请求将由底层 TCP 基础结构或 node.js 中实现您的服务器的本机代码排队(在单线程 JS 中不是 运行ning)。因此,运行ning 段 Javascript 不会阻止传入请求排队(除非某些内部队列已满)。
But the "terribly inefficient, heavy computation" is going to block the other callbacks until it's done and cause the server to be inefficient in that way, right?
正确。如果这种低效、繁重的计算是同步代码,那么它会 运行s 直到它完成并且在 运行ning 期间没有其他请求到达 运行。
node.js 中繁重的计算代码的通常解决方案是将其重新设计为 运行 更快或尽可能使用异步操作或将其移出主进程并启动一个子进程或一组子工作者来处理繁重的计算。然后,这允许您的主请求处理程序将这种繁重的计算视为异步操作,并允许其他事情 运行 而繁重的工作正在主 node.js 线程之外完成。
虽然这有时需要更多的编码工作,但也可以将长时间的 运行ning 计算分成多个块,以便可以执行一个工作块,然后使用 setImmediate()
来安排下一个工作块,允许在您的工作块之间处理其他排队的项目。由于这些天来设置一个工作池相当快,你可以将工作交给它,我可能更喜欢这种方法,因为它还可以让你更好地利用多个 CPU,并且可以避免 "chunking" 工作和编写代码以有效地处理这种方式。
是的,这会导致服务器效率低下。由于 javascript 事件循环在单个线程上运行,因此对服务器的第一个请求将阻止处理所有其他请求。
所有其他请求都必须等待,因为事件循环被到达服务器的第一个 findAllStocksFromUser 任务阻塞。