是否值得在同一台机器上拥有多个实例以扩展系统以处理更多请求

Question

正如我在标题中提到的，如果我想扩展系统以处理更多请求，那么创建的实例应该在不同的服务器上。这样对吗？。例如在tomcat中，在spring的上下文中，tomcat最多可以并行处理200个请求，因为它可以创建200个线程，每个线程都会处理请求。如果我想同时处理超过 200 个请求，那么我应该在不同的服务器中创建多个实例并创建负载均衡器以在实例之间进行平衡。在同一台机器上拥有多个实例没有任何意义，对吧？

Answer 1

值得吗？ 你将不得不判断。更重要的是：你必须衡量。

您可以配置单个实例的线程池以处理更多连接 - 但如果 CPU、内存或 I/O 连接已经完全饱和。但是，这是否发生在一个或多个进程中并不重要。

如果多个进程对底层基础设施都有不同的要求，那么可能有多个进程是有意义的。但是，如果其中一个已经使任何资源饱和，那么添加更多进程就没有意义了。或者更多线程。