ML 模型部署 CI/CD
ML model deployment CI/CD
我正在 DataBricks 上使用 MLFlow 训练模型并将最终模型输出到 S3。然后,使用 Seldon-Core 将模型打包并部署到 AWS EKS。
我正在寻找弥合差距的工具,方法是从 S3 获取模型,将其打包到 docker 容器中,然后使用 Seldon-Core K8S 模板将其推送到 AWS EKS。
我认为适合这项工作的工具是 Kubeflow Pipelines。其他竞争者是 Jenkins、Gitlab 和 TravisCI。
Kubeflow 是完成这项工作的绝对正确工具吗?与其他工具相比,Kubeflow 的优缺点是什么?如果有人已经完成了研究甚至建造了管道...
GitLab 实际上开箱即用地完成了 Kubeflow Pipelines 的工作,它类似于 Yaml 到 CircleCI 或 TravisCI。我最终使用它来替代 Kubeflow Pipelines。
关于 Kubeflow...
在对 0.5 和 0.6 版本的 Kubeflow 进行试验后,我们的感觉是它还很不稳定。安装从来没有顺利过,无论是进入 MiniKube(本地 K8S)还是进入 AWS EKS。对于 MiniKube,文档中的安装脚本已损坏,您将能够看到许多人遇到问题并手动编辑安装脚本(这是我必须做的才能正确安装它)。在 EKS 上,我们无法安装 0.5,必须安装更旧的版本。 Kubeflow 希望以特定方式管理工作节点,而我们的安全策略不允许这样做,只有在订单版本中您才能覆盖该选项。
Kubeflow 也正在切换到 Kuztomize,但它还不稳定,所以如果你现在使用它,你将使用不再受支持的 Ksonnet,你将学习一个工具,你将在 window 迟早。
总而言之,应该等待 1.0 版,但 Gitlab 作为 kubeflow Pipelines 的替代品做得很棒。
希望对有同样想法的人有所帮助
我正在 DataBricks 上使用 MLFlow 训练模型并将最终模型输出到 S3。然后,使用 Seldon-Core 将模型打包并部署到 AWS EKS。
我正在寻找弥合差距的工具,方法是从 S3 获取模型,将其打包到 docker 容器中,然后使用 Seldon-Core K8S 模板将其推送到 AWS EKS。
我认为适合这项工作的工具是 Kubeflow Pipelines。其他竞争者是 Jenkins、Gitlab 和 TravisCI。
Kubeflow 是完成这项工作的绝对正确工具吗?与其他工具相比,Kubeflow 的优缺点是什么?如果有人已经完成了研究甚至建造了管道...
GitLab 实际上开箱即用地完成了 Kubeflow Pipelines 的工作,它类似于 Yaml 到 CircleCI 或 TravisCI。我最终使用它来替代 Kubeflow Pipelines。
关于 Kubeflow... 在对 0.5 和 0.6 版本的 Kubeflow 进行试验后,我们的感觉是它还很不稳定。安装从来没有顺利过,无论是进入 MiniKube(本地 K8S)还是进入 AWS EKS。对于 MiniKube,文档中的安装脚本已损坏,您将能够看到许多人遇到问题并手动编辑安装脚本(这是我必须做的才能正确安装它)。在 EKS 上,我们无法安装 0.5,必须安装更旧的版本。 Kubeflow 希望以特定方式管理工作节点,而我们的安全策略不允许这样做,只有在订单版本中您才能覆盖该选项。
Kubeflow 也正在切换到 Kuztomize,但它还不稳定,所以如果你现在使用它,你将使用不再受支持的 Ksonnet,你将学习一个工具,你将在 window 迟早。
总而言之,应该等待 1.0 版,但 Gitlab 作为 kubeflow Pipelines 的替代品做得很棒。
希望对有同样想法的人有所帮助