通过 python 在 Kubernetes 中测试已部署的容器

Testing a Deployed container in Kubernetes via python

我已将容器推送到容器注册表,并且能够将其部署到 kubernetes。 运行 这个容器测试部署是否工作正常的最佳方法是什么? 我已经阅读了文档并看到我可以设置一个端点,但是一旦我设置了一个 post 到端点的请求,我就无法弄清楚如何调用容器。请注意,该容器托管了一个 python 脚本,该脚本基本上是 运行 一个 ml 模型并吐出一个预测。所以我想要一种方法来对集群进行 api 调用以 运行 容器和打印容器结果的调用。 或者有更好的方法来代替设置端点吗?

• 为 Kubernetes pod 设置端点以访问容器并在容器中执行 python 脚本是一个好方法。

• 正如 Microsoft 文档中所建议的,我们可以通过三个选项在 AKS 前面部署 API 管理。您可以在文档中提供的图片中看到相同的内容。

https://docs.microsoft.com/en-us/azure/api-management/api-management-kubernetes#kubernetes-services-and-apis

• 使用 Kubernetes 集群配置 API 后,您可以将模型部署到 Azure Kubernetes 服务集群,为此,您需要创建描述所需计算资源的部署配置。例如,核心数和内存。您还需要一个推理配置,它描述了托管模型和 Web 服务所需的环境。有关创建推理配置的详细信息,请参阅部署模型的方式和位置。

有关如何部署和引用 python ML 模型的更多信息,您可以参考下面的文档:-

https://docs.microsoft.com/en-us/azure/machine-learning/how-to-deploy-and-where?tabs=azcli