CNTK 中的用户定义层 python

User defined layers in CNTK python

我正在尝试使用 python 界面创建自定义层以在 CNTK 中使用。我正在关注 this guide,但一直在我的 class 的 __init__ 中抛出 TypeError 异常。请注意,我只是复制粘贴了链接指南中的示例。

import cntk as C
import numpy as np

class MySigmoid(UserFunction):
    def __init__(self, arg, name='MySigmoid'):
        super(MySigmoid, self).__init__([arg], name=name)

    def forward(self, argument, device=None, outputs_to_retain=None):
        sigmoid_x = 1 / (1 + np.exp(-argument))
        return sigmoid_x, sigmoid_x

    def backward(self, state, root_gradients):
        sigmoid_x = state
        return root_gradients * sigmoid_x * (1 - sigmoid_x)

    def infer_outputs(self):
        return [output_variable(self.inputs[0].shape, self.inputs[0].dtype,
            self.inputs[0].dynamic_axes)]

    @staticmethod
    def deserialize(inputs, name, state):
        return MySigmoid(inputs[0], name)
model = C.layers.Sequential(C.layers.Dense(10), C.user_function(layers_extensions.MySigmoid(3)))

这是我得到的错误:

  File "...\layers_extensions.py", line 30, in __init__
    super(MySigmoid, self).__init__([arg], name=name)
  File "c:\repos\cntk\bindings\python\cntk\ops\functions.py", line 1286, in __init__
    super(UserFunction, self).__init__(inputs, name)
  File "c:\repos\cntk\bindings\python\cntk\ops\functions.py", line 109, in __init__
    super(Function, self).__init__(*args, **kwargs)
  File "c:\repos\cntk\bindings\python\cntk\cntk_py.py", line 1698, in __init__
    this = _cntk_py.new_Function(_self, *args)
TypeError: cannot convert list element to CNTK::Variable

我试图 google 这个错误,但没有出现。你能帮助我吗?

出于某种原因,CNTK 在 forward(...) 方法中将 argument 参数作为列表传递,即使它是单个参数。我最终通过从列表中取出第一个来使其工作。您将找到工作示例 here.