使用 kubectl 创建的 kfserving github 个示例提供服务,但无法推断
Serving service from kfserving github examples created with kubectl, but can not infere
我已经在 linux 桌面上安装了 minikube 集群和 kfserving。
然后我跟着两个教程
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/custom/torchserve
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1alpha2/custom/kfserving-custom-model
在第二个教程中,我需要将“name: custom”从“custom:”部分移动到 yaml 文件中的“container:”部分。
我预计服务正在运行并响应服务请求和 kubernetes 中服务的 pods。
我使用 2021 年 5 月的最新稳定版本。
但是我在两个教程中都有同样的错误。以下命令来自第一个教程。当我准备 docker 图像与模型和 运行
$ kubectl apply -f torchserve-custom.yaml
命令。
我看到类似
的输出
inferenceservice.serving.kubeflow.org/torchserve-custom created
但我无法运行进行预测,因为我收到 404 not found 服务。
当我运行
$ kubectl get pods --all-namespaces
我没有看到任何新的 pods。
但是我可以用
删除服务
$ kubectl delete -f torchserve-custom
当我学习了其他教程,例如:https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/torchserve 一切正常,我可以 运行 预测。
为什么我不能 运行 预测?
为什么要创建新的 pods?
如果上述教程不起作用,如何使用 docker 图像在 kfserving 中设置服务?
事实证明,我的本地 docker 注册表在 kubernetes 中不可见。 kubectl get events
显示内部错误“无法获取图像...”
我已经在 linux 桌面上安装了 minikube 集群和 kfserving。
然后我跟着两个教程
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/custom/torchserve
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1alpha2/custom/kfserving-custom-model
在第二个教程中,我需要将“name: custom”从“custom:”部分移动到 yaml 文件中的“container:”部分。
我预计服务正在运行并响应服务请求和 kubernetes 中服务的 pods。
我使用 2021 年 5 月的最新稳定版本。
但是我在两个教程中都有同样的错误。以下命令来自第一个教程。当我准备 docker 图像与模型和 运行
$ kubectl apply -f torchserve-custom.yaml
命令。
我看到类似
inferenceservice.serving.kubeflow.org/torchserve-custom created
但我无法运行进行预测,因为我收到 404 not found 服务。
当我运行
$ kubectl get pods --all-namespaces
我没有看到任何新的 pods。
但是我可以用
$ kubectl delete -f torchserve-custom
当我学习了其他教程,例如:https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/torchserve 一切正常,我可以 运行 预测。
为什么我不能 运行 预测?
为什么要创建新的 pods?
如果上述教程不起作用,如何使用 docker 图像在 kfserving 中设置服务?
事实证明,我的本地 docker 注册表在 kubernetes 中不可见。 kubectl get events
显示内部错误“无法获取图像...”