为什么 AWS SageMaker 运行 是一个用于批量转换的 Web 服务器？

Question

我正在创建自己的 Docker 容器以与 SageMaker 一起使用，我想知道为什么当我想执行批量转换作业时，serve 命令会创建一个 Flask 应用程序来提供对数据的预测。只取消模型和 运行 模型在我想要预测的数据集上的预测方法会不会更简单？我不需要网络 api/endpoint。我只需要每天自动生成一次预测。

Answer 1

问得好 :) 使用完全相同的代码进行批处理推理和在线推理可以减少开发开销 - 完全相同的堆栈可以用于两种用例 - 还可以减少在批处理中完成的事情之间产生不同结果的风险和在线完成的事情。话虽如此，SageMaker 非常灵活，您可以使用培训 API 轻松完成您描述的内容。 Training API 中没有任何内容强制您将其用于 ML 训练，它实际上是一个非常通用的 docker 协调器，具有高级日志记录、元数据持久性，并且专为快速和分布式数据摄取而构建。