Traefik:在不将其暴露在外部的情况下负载平衡内部服务

Traefik: Load balance internal service without exposing it outside

目前,我有 frontendbackendtf-serving 服务。我当前的配置在外部公开了 frontendbackend 服务。

但是,服务 tf-serving 是仅供 backend 服务使用的内部服务。他们使用 TensorFlow Serving 提供的 gRPC API 进行通信。

tf-serving 是否也可以进行负载平衡,以便当我从 backend 服务调用它时,Traefik 会为我进行负载平衡?

是的,这是可能的。然而,更好的方法是将 tf-serving 服务连接到与后端服务相同的网络(或者为它们两个创建一个单独的网络)并使用容器名称 dns 解析直接从后端连接到它。