用于模型托管的 AWS Sagemaker 与 ECS
AWS Sagemaker vs ECS for model hosting
我已将预训练模型工件存储在 S3 存储桶中。我想创建一个加载此模型并将其用于推理的服务。
我在 AWS 生态系统中工作，对使用 ECS 还是使用 Sagemaker 进行模型部署感到困惑？
有哪些选择pros/cons？
SageMaker 的价格更高，但它承担了部署机器学习模型的大量繁重工作，例如连接各个部分（负载均衡器、gunicorn、CloudWatch、Auto-Scaling...）和它更容易使 A/B 测试等流程自动化。
如果您有一个强大的 DevOps 团队并且没有比 SageMaker 更重要的事情要做，您可以构建一个比 SageMaker 选项成本更低的流程。 ECS 和 EKS 同时做了很多工作，使您可以非常轻松地自动化机器学习模型部署。但是，它们总是更通用，而专注于机器学习的 SageMaker 对于这些用例来说会更容易。
使用云的通常模式是尽早使用托管服务，因为您想快速行动并且您真的不知道未来的问题在哪里。一旦系统在成长，你开始感觉到一些痛苦，你可以决定花时间改进系统的那一部分。因此，如果您不知道 pros/cons，请从使用更简单的选项开始。
我已将预训练模型工件存储在 S3 存储桶中。我想创建一个加载此模型并将其用于推理的服务。
我在 AWS 生态系统中工作，对使用 ECS 还是使用 Sagemaker 进行模型部署感到困惑？ 有哪些选择pros/cons？
SageMaker 的价格更高，但它承担了部署机器学习模型的大量繁重工作，例如连接各个部分（负载均衡器、gunicorn、CloudWatch、Auto-Scaling...）和它更容易使 A/B 测试等流程自动化。
如果您有一个强大的 DevOps 团队并且没有比 SageMaker 更重要的事情要做，您可以构建一个比 SageMaker 选项成本更低的流程。 ECS 和 EKS 同时做了很多工作，使您可以非常轻松地自动化机器学习模型部署。但是，它们总是更通用，而专注于机器学习的 SageMaker 对于这些用例来说会更容易。
使用云的通常模式是尽早使用托管服务，因为您想快速行动并且您真的不知道未来的问题在哪里。一旦系统在成长，你开始感觉到一些痛苦，你可以决定花时间改进系统的那一部分。因此，如果您不知道 pros/cons，请从使用更简单的选项开始。