keras 中 softmax 输出的一个热输入

Question

我有一个神经网络，输入 m*n 个单热向量，行代表类别，列代表位置。

我想训练一个网络在输出层输出另一个具有相同 m*n 形状的（随机）向量，每列的概率总和为 1。我的想法是使用 softmax 最后一层，但我是否需要单独构建每一列并连接 like here？或者是否可以在 Keras 中（例如单行）更简单地做到这一点？

Answer 1

如果您的模型的输出形状为 (None, m, n) 并且您想要计算第二个轴上的 softmax，您可以简单地使用 softmax 激活方法并传递 axis它的参数（在你的情况下它必须是 axis=1）：

from keras import activations

def the_softmax(axis):
    def my_softmax(x):
        return activations.softmax(x, axis=axis)
    return my_softmax

# sequential model
model.add(Dense(..., activation=the_softmax(1)))

# functional model
output = Dense(..., activation=the_softmax(1))(prev_layer_output)

或者，如果您想将其用作独立层，可以使用 Lambda 层和后端 softmax 函数：

from keras import backend as K

def the_softmax(axis):
    def my_softmax(x):
        return K.softmax(x, axis=axis)
    return my_softmax

# sequential model
model.add(Lambda(the_softmax(1)))

# functional model
output = Lambda(the_softmax(1))(prev_layer_output)

keras 中 softmax 输出的一个热输入

One hot input to softmax output in keras

python

machine-learning

neural-network

keras

softmax