TensorFlow + cloud-ml:部署自定义原生操作 / reader

TensorFlow + cloud-ml : deploy custom native op / reader

我想知道是否可以在 cloud-ml 中部署用 C++ 编写的 Tensorflow 自定义操作或自定义 reader。

看起来 cloud-ml 在其标准模式下不接受 运行 本机代码(我对使用虚拟化环境并不感兴趣),至少对于 Python 包他们只接受没有 C 依赖的纯 python。

可能最简单的方法是将包含 op 的整个自定义 Tensorflow Wheel 的构建作为一个额外的包包含在内。要指定额外的包,请参阅:https://cloud.google.com/ml-engine/docs/how-tos/packaging-trainer#to_include_custom_dependencies_with_your_package 要从源代码构建 TF 轮,请参阅:https://www.tensorflow.org/install/install_sources#build_the_pip_package

您也可以尝试 download/install 只为新操作下载 .so 文件,但这需要将其下载到培训包 setup.py 或培训包 [=20] 中=] 代码本身。

请注意,您目前只能在训练期间上传自定义包,而不能在批处理或在线预测期间上传,因此使用自定义 TF 版本训练的模型可能无法使用预测服务。