如何将附加参数(作为字典)传递给 sagemeker 自定义推理容器?
How to pass additional parameters (as a dict) to sagemeker custom inference container?
状态:
- 使用文档构建自定义容器 - https://github.com/aws/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own
- predict.py 经过编码以适应自定义推理脚本及其运行良好
- 使用 classsagemaker.model.Model() class 传递经过训练的 model.tar.gz 和自定义容器映像以部署模型
挑战:
- 在同一个模型中class有一个 ENV 参数,通过它我们显然可以将环境变量发送到自定义图像
- 尝试将 python 字典传递给此 ,但难以阅读 predict.py 脚本中的此 json 字典
有人遇到同样的困难吗?
您可以在您的模型中将您的环境指令传递为:
Model(
.
.
env= {"my_env": "my_env_value"}
.
.
)
SageMaker 会将环境字典传递给您的容器,您可以在 predict.py 脚本中访问它,例如:
my_env = os.environ.get('my_env',"env key not set in Model")
print(my_env)
如果您的 env dict 已传递给包含它们 my_env
的模型,那么您将收到输出:my_env_value
。否则,您将收到 env key not set in Model
我在 AWS 工作,我的观点是我自己的。
状态:
- 使用文档构建自定义容器 - https://github.com/aws/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own
- predict.py 经过编码以适应自定义推理脚本及其运行良好
- 使用 classsagemaker.model.Model() class 传递经过训练的 model.tar.gz 和自定义容器映像以部署模型
挑战:
- 在同一个模型中class有一个 ENV 参数,通过它我们显然可以将环境变量发送到自定义图像
- 尝试将 python 字典传递给此 ,但难以阅读 predict.py 脚本中的此 json 字典
有人遇到同样的困难吗?
您可以在您的模型中将您的环境指令传递为:
Model(
.
.
env= {"my_env": "my_env_value"}
.
.
)
SageMaker 会将环境字典传递给您的容器,您可以在 predict.py 脚本中访问它,例如:
my_env = os.environ.get('my_env',"env key not set in Model")
print(my_env)
如果您的 env dict 已传递给包含它们 my_env
的模型,那么您将收到输出:my_env_value
。否则,您将收到 env key not set in Model
我在 AWS 工作,我的观点是我自己的。