使用内存对象时的系统架构?
System architecture when using inmemory objects?
我使用 .net 核心和 jquery 以及 signalR 创建了一个陌生人聊天 Web 应用程序。目前我正在使用字典为用户存储 connectionid 和消息。我正在使用内存中的对象字典而不使用任何 database.For 测试视角,我已经将它部署在 azure 上并且它对 3-4 个用户来说工作正常。我的问题是
1.Let 的说法如果我的应用程序有 3000 个用户同时聊天,托管该应用程序的最佳解决方案是什么?我的想法是我可以使用多个系统并使用负载均衡器,我可以将它们重定向到不同的系统。例如,假设有 1500 个用户,那么每个服务器在内存对象中可以有 500 个用户,这 500 个用户可以互相聊天。我可以看到一个限制,即每个用户只能与这 500 名用户聊天,而不能与 1500 名用户聊天。这个方案可行吗?
2.How 很多 Ram/CPU core/storage 我需要同时处理 3000 个用户吗?
3.Do 我需要使用弹性搜索数据库而不是内存对象来存储消息。?我不需要存储消息,但弹性搜索数据库对分布式系统有帮助吗?
4.What 是使用负载均衡器的最佳方式吗?以及在我的情况下我需要多少个分布式系统?
我的应用支持与陌生人聊天,上传图片,视频。
我知道这可能会有所不同,我们无法准确地告诉它,但我想知道我的 Web 应用程序的最佳系统架构。
为了扩展这个,我会寻找一个 PubSub/Realtime 数据库。
例如:Firebase 实时数据库、Kafka Streams、Redis。
有了这个,您可能根本不需要任何自定义后端。
如果您选择自己的服务器作为 pubsub 的中间件,一切都会变得更加复杂。您必须找到一种方法来管理您的基础架构(例如使用 Kubernetes)并设置一个负载均衡器(例如 HAProxy)来在服务器之间分配请求。
有 codesphere.com 或 heroku.com 等提供商可以让您更轻松地完成此过程。
除此之外,您还可以通过 cloudflare.com、netlify 或 Vercel 等 cdn 以可扩展且简单的方式为您的前端提供服务。
据我所知,当前的解决方案是前端使用 SignalR 与后端对话,然后后端与另一个用户的前端对话?
目前主要关注的是存储,因此您需要将其提取到一个单独的位置。由于它是一种用于存储连接详细信息的缓存,因此 Redis 或其他缓存机制将是完美的选择。然后后端只要需要一些信息就会与 Redis 通信。
第二个问题是连接数,因为您会有更多的用户。您需要扩展后端以支持它。我不确定 Azure 如何处理它,但我确信它确实支持它,我假设有某种设置可以扩展服务并使用某种负载平衡策略,例如循环法。因为我们不必记住用户连接到哪个服务,所以应该可以。
关于消息历史,你提到你不存储它,用户每次重新加载应用程序都会丢失它。如果您需要某种轻量级消息存储,您可以考虑在 Web 浏览器上进行本地存储。消息可以存储在本地,您无需在后端担心。否则,如果您需要存储消息,那么我认为 nosql DB 会很好,因为您只需存储具有用户 ID 和消息 ID 的 blob。正如您所说,Elastic 非常适合。
回答您的问题:
- 通过将存储提取到缓存中解决。
- 很难说,您只需要监视 Azure 服务即可。但是,由于您可以使应用程序具有可扩展性,因此您应该能够在达到限制后对其进行操作。
- 如前所述,应用程序的行为取决于您,但如果您需要某种存储,客户端的本地存储或某种 nosql 数据库都适合此目的。
- 负载平衡应该在 Azure 中可用,您只需要选择某种策略来平衡负载。
我使用 .net 核心和 jquery 以及 signalR 创建了一个陌生人聊天 Web 应用程序。目前我正在使用字典为用户存储 connectionid 和消息。我正在使用内存中的对象字典而不使用任何 database.For 测试视角,我已经将它部署在 azure 上并且它对 3-4 个用户来说工作正常。我的问题是
1.Let 的说法如果我的应用程序有 3000 个用户同时聊天,托管该应用程序的最佳解决方案是什么?我的想法是我可以使用多个系统并使用负载均衡器,我可以将它们重定向到不同的系统。例如,假设有 1500 个用户,那么每个服务器在内存对象中可以有 500 个用户,这 500 个用户可以互相聊天。我可以看到一个限制,即每个用户只能与这 500 名用户聊天,而不能与 1500 名用户聊天。这个方案可行吗?
2.How 很多 Ram/CPU core/storage 我需要同时处理 3000 个用户吗?
3.Do 我需要使用弹性搜索数据库而不是内存对象来存储消息。?我不需要存储消息,但弹性搜索数据库对分布式系统有帮助吗?
4.What 是使用负载均衡器的最佳方式吗?以及在我的情况下我需要多少个分布式系统?
我的应用支持与陌生人聊天,上传图片,视频。
我知道这可能会有所不同,我们无法准确地告诉它,但我想知道我的 Web 应用程序的最佳系统架构。
为了扩展这个,我会寻找一个 PubSub/Realtime 数据库。 例如:Firebase 实时数据库、Kafka Streams、Redis。
有了这个,您可能根本不需要任何自定义后端。
如果您选择自己的服务器作为 pubsub 的中间件,一切都会变得更加复杂。您必须找到一种方法来管理您的基础架构(例如使用 Kubernetes)并设置一个负载均衡器(例如 HAProxy)来在服务器之间分配请求。
有 codesphere.com 或 heroku.com 等提供商可以让您更轻松地完成此过程。
除此之外,您还可以通过 cloudflare.com、netlify 或 Vercel 等 cdn 以可扩展且简单的方式为您的前端提供服务。
据我所知,当前的解决方案是前端使用 SignalR 与后端对话,然后后端与另一个用户的前端对话?
目前主要关注的是存储,因此您需要将其提取到一个单独的位置。由于它是一种用于存储连接详细信息的缓存,因此 Redis 或其他缓存机制将是完美的选择。然后后端只要需要一些信息就会与 Redis 通信。
第二个问题是连接数,因为您会有更多的用户。您需要扩展后端以支持它。我不确定 Azure 如何处理它,但我确信它确实支持它,我假设有某种设置可以扩展服务并使用某种负载平衡策略,例如循环法。因为我们不必记住用户连接到哪个服务,所以应该可以。
关于消息历史,你提到你不存储它,用户每次重新加载应用程序都会丢失它。如果您需要某种轻量级消息存储,您可以考虑在 Web 浏览器上进行本地存储。消息可以存储在本地,您无需在后端担心。否则,如果您需要存储消息,那么我认为 nosql DB 会很好,因为您只需存储具有用户 ID 和消息 ID 的 blob。正如您所说,Elastic 非常适合。
回答您的问题:
- 通过将存储提取到缓存中解决。
- 很难说,您只需要监视 Azure 服务即可。但是,由于您可以使应用程序具有可扩展性,因此您应该能够在达到限制后对其进行操作。
- 如前所述,应用程序的行为取决于您,但如果您需要某种存储,客户端的本地存储或某种 nosql 数据库都适合此目的。
- 负载平衡应该在 Azure 中可用,您只需要选择某种策略来平衡负载。