在 aws sagemaker 中为多个数据集托管多个模型

Question

我了解到有一种方法可以在 AWS Sagemaker 中使用针对单个数据集的单个端点来训练和托管多个模型。但是我在 S3 中有 2 个不同的数据集，必须为每个数据集训练一个模型。这 2 个不同的模型可以使用单个端点托管吗？

Answer 1

是的，这称为多模型端点。您可以在同一个端点上使用大量模型。它们会根据需要动态加载和卸载，您只需在预测请求中传递模型名称即可。

这里有一些资源：

• 博客 post + 示例：https://aws.amazon.com/blogs/machine-learning/save-on-inference-costs-by-using-amazon-sagemaker-multi-model-endpoints/

• 解释 SageMaker 上模型部署场景的视频：https://youtu.be/dT8jmdF-ZWw