Error: "Your deployment does not have an associated swagger.json" - ACI deployment on Stream Analytics Job

Question

最新更新：在 public 审查 link 流分析作业的当前版本中，不支持 ACI 容器部署。因此，我将关闭这个问题，直至另行通知。如需更多信息，请关注下面发布的 GitHub 话题。

注意：当 Deployment 值是 ACI 容器而不是 AKS 集群时，就会出现问题。使用 Kubernetes 集群，成功创建 Azure ML 服务功能。虽然我想用 ACI 容器而不是 AKS 集群来测试我的功能。

我正在尝试在流分析作业服务中创建 Azure ML 服务函数。为此，我在 Azure 容器实例 (a.k.a ACI) 中使用了一个已部署的 ml 模型。但是，我收到此错误：

link of the issue on GitHub and the related Microsoft document

尽管存在以下三个因素，但仍存在此错误：

因素 1：当我使用评分 URL（ACI 容器的）在本地（在 Jupyter Notebook 中）对某些值进行评分时，评分成功。
因素 2：我已经在我的 score.py 文件中推断出输入数据的模式。
因素3：我把infer-schema[numpy-support]模块作为对环境文件的依赖。

我做错了什么？

ACI 容器实例是使用授权（主）密钥部署的，另外我在我的 score.py 文件中推断输入和输出样本的模式。但是，Stream 作业无法识别 swagger 文件。因为我在 score.py 文件上推断了模式，所以我 read 认为 swagger.json 文件会自动生成。

我的 score.py 文件样本：

import json
import numpy as np
import os
import itertools
import joblib
from sklearn.ensemble import RandomForestRegressor

from azureml.core.model import Model

from inference_schema.schema_decorators import input_schema, output_schema
from inference_schema.parameter_types.numpy_parameter_type import NumpyParameterType

def init():

    global model

    # retrieve the path to the model file using the model name
    model_path = Model.get_model_path('<model_name>')
    model = joblib.load(model_path)

input_sample = np.array([["0", 0, 0, 0, 0, 0]])
output_sample = np.array([0])

@input_schema('raw_data', NumpyParameterType(input_sample))
@output_schema(NumpyParameterType(output_sample))

def run(raw_data):
    try:

        data = np.array(raw_data)
        result=[]

        for array in data:

            prediction_result=model[array[0]].predict(array[1:].reshape(1,-1))
            result.append(prediction_result.tolist())

        result=list(itertools.chain.from_iterable(result))

        # you can return any data type as long as it is JSON-serializable
        return result

    except Exception as e:
        error = str(e)
        return error

我的 env.yml 文件样本：

name: project_environment
dependencies:
  - python=3.7.3
  - pip:
    - azureml-defaults
    - inference-schema[numpy-support]
    - joblib
    - numpy
    - scikit-learn==0.20.3

对于解决此问题的任何评论，我将不胜感激。

关键发现：

我比较了 AKS 集群和 ACI 容器实例的 swagger.json 文件。而这两个swagger文件的区别在于关键"paths"。在 AKS 中，swagger.json 中的路径是："paths": { "/api/v1/service/aks-service/":.... 等在 ACI 中，swagger.json 中的路径是："paths": { "/":....etc

部分 Swagger.json AKS 集群：

ACI 集群 Swagger.json 的一部分：

而且我认为这可能是问题的根源。也许流分析作业函数无法识别 auto-generate ACI 容器函数签名的路径“/”。

Answer 1

我们首先支持 AKS，因为这是推荐的实时评分方法。由于此功能在 public 预览版中，我们正在为部署在 ACI 上的模型完成一些性能基准测试，以便它可以可靠地用于 dev/test 目的。我们应该会在接下来的几周内提供对 ACI 部署的支持。

Error: "Your deployment does not have an associated swagger.json" - ACI deployment on Stream Analytics Job

Error: "Your deployment does not have an associated swagger.json" - ACI deployment on Stream Analytics Job

python

azure

numpy

azure-stream-analytics

azure-container-instances