在 AWS Auto Scaling、ELB、Cloudwatch 上测试时出现问题

Question

我在 JSP 中创建了一个 Web 应用程序。我的一个网络应用 URL 是 return 一个唯一 ID。

这是URL。 www.biomobilestrokelab.com/GateKeeper/newUserId.jsp

它在网络浏览器中运行良好。现在我想在此 Web 应用程序上测试可扩展性。 为此，我使用 Apache Jmeter。 但是当我每秒达到 1000 个请求时

• 有时所有请求return响应成功
• 有时我会收到 HTTP 504 网关超时代码
• 有时我收到 HTTP 503 服务不可用后端服务器已满。

我正在使用 AWS Autoscalig

1. 最小实例 = 2
2. 最大实例 = 12
3. 运行状况检查宽限期 = 300 秒
4. 默认冷却时间 = 60 秒

为 ELB 配置了以下选项。

1. 超时 = 60 秒
2. 间隔 = 200 秒
3. 不健康阈值 = 2
4. 健康阈值 = 10

我应用以下 Cloud Watch 矩阵进行自动缩放。

1. CPU 利用率：当它大于 10% 时添加 1 个实例，当它小于 3% 时删除 1 个实例，我应用了 1 分钟的平均统计数据。

2. 请求计数：当Sum大于1000时增加1个实例，当Sum小于等于1000时减少1个实例。

请指导我如何解决这个问题，以便我每秒可以成功达到 1000 或超过 1000 个请求。

Answer 1

我建议您要么针对固定​​数量的实例（假设为两个）减少每秒请求数，要么增加实例数，直到没有错误并且每秒所有千次请求都已成功处理。然后基于此，您可以在您的自动缩放组中设置最小值并调整 CloudWatch 警报。