使用 Azure ML Studio 部署的内存不足错误 Web 服务

Out-of-memory error webservice deployed with Azure ML Studio

我使用 Azure 机器学习工作室部署的 Web 服务公开了一个分类模型。自上次重新培训和重新部署以来,在大约 1% 的生产处理案例中,我得到以下两个内存不足(可能相关)错误之一:

  1. “该模型消耗的内存超过了分配给它的内存。该模型允许的最大内存为 2560 MB。请检查您的模型是否存在问题。”
  2. “评估 R 脚本期间发生以下错误:R_tryEval:return 错误:错误:无法分配大小为 57.6 Mb 的向量”

根据官方文档,我没有找到解决这个问题的方法。

请注意,这些错误仅在尝试使用网络服务时发生(而不是在训练、评估和部署时)。

此外,按照建议 here 以批处理模式使用 Web 服务对于我的业务用例来说不是一个可行的选择。

有没有办法增加部署在 Azure ML Studio 中的 Web 服务的内存使用限制?

目前,无法增加 Classic Studio 中的内存限制。我们鼓励客户尝试 Azure Machine Learning designer (preview),它提供类似的拖放 ML 模块以及可扩展性、版本控制和企业安全性。此外,使用 Designer,端点被部署到 AKS,除了集群资源外没有其他限制。