Cloudrun docker 图像的启动时间是否会延迟自动缩放?
Does startup time for Cloudrun docker image delays autoscaling?
我目前使用 express.js 作为主要后端。但是,我发现 fastify 通常在性能上更快。
但是fastify的缺点是启动时间比较慢。
我很好奇它会减慢 Cloudrun 的自动缩放速度吗?
我看到 Cloudrun 在使用率超过 60% 时会自动缩放。
在这种情况下,我认为缓慢的启动时间会延迟自动缩放时的响应,这可能是不使用 fastify 的原因。这究竟是如何工作的?
缓慢的冷启动不会影响自动调节器。根据CPU使用量和查询数量的服务规模。
如果使用基准跟踪创建实例的数量,您会发现突然有 50 个并发请求,云 运行 自动调用程序创建了 5 到 10 个实例。为什么?因为如果流量随着大量并发请求突然增加,这可能意味着坡度可以继续,您很快就会有 100 或 200 个并发请求,云 运行 服务已准备好吸收该流量。
如果缓慢扩展到 50 个并发请求,则只能设置 1 或 2 个实例。
无论如何,这只是我在之前的测试中注意到的事情。此外,请记住,如果您有持续的流量,冷启动是一种边际情况。您会“很少”损失几毫秒,这并不意味着框架发生了变化。
我的建议是保留对您来说最好和最有效的东西(您的成本至少是云 运行 成本的 100 倍!!)
我目前使用 express.js 作为主要后端。但是,我发现 fastify 通常在性能上更快。
但是fastify的缺点是启动时间比较慢。
我很好奇它会减慢 Cloudrun 的自动缩放速度吗?
我看到 Cloudrun 在使用率超过 60% 时会自动缩放。
在这种情况下,我认为缓慢的启动时间会延迟自动缩放时的响应,这可能是不使用 fastify 的原因。这究竟是如何工作的?
缓慢的冷启动不会影响自动调节器。根据CPU使用量和查询数量的服务规模。
如果使用基准跟踪创建实例的数量,您会发现突然有 50 个并发请求,云 运行 自动调用程序创建了 5 到 10 个实例。为什么?因为如果流量随着大量并发请求突然增加,这可能意味着坡度可以继续,您很快就会有 100 或 200 个并发请求,云 运行 服务已准备好吸收该流量。
如果缓慢扩展到 50 个并发请求,则只能设置 1 或 2 个实例。
无论如何,这只是我在之前的测试中注意到的事情。此外,请记住,如果您有持续的流量,冷启动是一种边际情况。您会“很少”损失几毫秒,这并不意味着框架发生了变化。
我的建议是保留对您来说最好和最有效的东西(您的成本至少是云 运行 成本的 100 倍!!)