在 AWS lambda 上部署 POJO 模型
Deploying POJO model on AWS lambda
我是 H2O 和 AWS 的新手。
我已经在 H2O 中完成了几个 GLM 模型,并希望将其部署在 AWS lambda 上。这些模型使用或多或少相同的数据源,这些数据源将从 API 网关注入 JSON。
对这些模型进行并行评分并在一个 Lambda 函数中对每个 GLM 的结果求和的最佳方法是什么?
- 将每个 POJO class 按顺序放入 Lambda 中可以吗?
- 需要一些数据转换脚本将数据转换为 POJO 模型所需的形状,并在 Redis 中进行一些 table 查找
- 完成 5 个 POJO 评分后,需要将分数相加 return 输出到 S3
这个设置可行吗?或者对于这个用例,还有其他方法更 suitable 。 GLM(s) 模型的评分和结果将实时部署到 Web 应用程序和服务用户。
GLM 模型得分非常快。可以将它们串联在单个 lambda API 调用中。模型预测延迟不会很差。数据库 table 查找可能会影响延迟。
对于大批量交易问题,重要的是多个交易可以并行发生,使用 AWS lambda 端点是让亚马逊处理该问题的好方法,而不必自己发明方法。
我是 H2O 和 AWS 的新手。 我已经在 H2O 中完成了几个 GLM 模型,并希望将其部署在 AWS lambda 上。这些模型使用或多或少相同的数据源,这些数据源将从 API 网关注入 JSON。
对这些模型进行并行评分并在一个 Lambda 函数中对每个 GLM 的结果求和的最佳方法是什么? - 将每个 POJO class 按顺序放入 Lambda 中可以吗? - 需要一些数据转换脚本将数据转换为 POJO 模型所需的形状,并在 Redis 中进行一些 table 查找 - 完成 5 个 POJO 评分后,需要将分数相加 return 输出到 S3
这个设置可行吗?或者对于这个用例,还有其他方法更 suitable 。 GLM(s) 模型的评分和结果将实时部署到 Web 应用程序和服务用户。
GLM 模型得分非常快。可以将它们串联在单个 lambda API 调用中。模型预测延迟不会很差。数据库 table 查找可能会影响延迟。
对于大批量交易问题,重要的是多个交易可以并行发生,使用 AWS lambda 端点是让亚马逊处理该问题的好方法,而不必自己发明方法。