使用 AWS Sagemaker Boto 创建多模型终端节点

Create a Multi Model Endpoint using AWS Sagemaker Boto

我创建了 2 个不太复杂的模型并将它们重命名并放置在 S3 存储桶中的相同位置。

我需要创建一个多模型端点,以便 2 个模型具有相同的端点。 我使用的模型是内置线性学习器模型类型回归器的 AWS。

我不知道应该如何部署它们。

SageMaker 的 Linear Learner 算法容器当前未实现 multi-model endpoints. You could request support in the AWS Forums 的要求。

您还可以构建自己的线性学习算法版本。要将模型部署到多模型端点,您需要构建自己的容器来满足多模型端点的要求,并实施您自己的线性学习算法版本。此示例笔记本提供了一个示例,说明您将如何创建服务于 MxNet 模型的多模型兼容容器,但您可以对其进行调整以实现线性学习算法:

https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/multi_model_bring_your_own/multi_model_endpoint_bring_your_own.ipynb