自定义池化层 - minmax pooling - Keras - Tensorflow

Question

我想定义我的自定义池化层，而不是像 MaxPooling 层那样返回最大值，它会输出 k 个最大值和 k 个最小值。

我正在使用 Tensorflow 作为后端。我需要对输出向量进行排序。

我正在考虑这样做：

from keras.layers.pooling import _Pooling1D

class MinMaxPooling1D(_Pooling1D):

    def __init__(self, output_dim, **kwargs):
        self.output_dim = output_dim
        super(MinMaxPooling1D, self).__init__(**kwargs)

    def _pooling_function(self, inputs, **kwargs):
        sorted_ = tf.contrib.framework.sort(inputs, axis = -1)
        print(sorted_)
        return np.concatenate((sorted_[:,:,:self.output_dim/2], sorted_[:,:,-self.output_dim/2:]))

但后来我得到：

Tensor("min_max_pooling1d_1/sort/Neg_1:0", shape=(?, 1, 1, ?), dtype=float32)
ValueError: zero-dimensional arrays cannot be concatenated

MinMaxPooling1D 层应用于 (None, 1, 10) 形状输出。

当时我想在 MinMaxPooling1D 层之前添加一个 Flatten 层，但后来出现了尺寸问题：

ValueError: Input 0 is incompatible with layer min_max_pooling1d_5: expected ndim=3, found ndim=2

Answer 1

所以你想要构建的是一个 Keras 层，它将采用形状 [batch_dim, pool_dim, channels] 的 3D 输入并产生 4D 输出 [batch_dim, pool_dim, channels, min_max_channels]。

与 Keras _Pooling1D 不同，您实际上会更改维数，我建议通过直接从 keras Layer.

继承来实现您的图层

使用 tf.sort 实现 call 方法，并从已排序的输入中获取所需数量的最大和最小元素，并沿新维度连接它们（考虑使用 tf.expand_dims 和tf.concat).

p.s。我曾尝试自己实现它，但发现它很复杂。您基本上想要与 maxpool 不同的东西，甚至更多。您可能会看一下 tensorflow/python/ops/gen_nn_ops.py 方法 max_pool 以了解您从事的工作类型，除非您可以在某处找到一些现成的实现...

Answer 2

我没有尝试使用池化层，而是使用了 Lambda：

def top_k(inputs, k):
  return tf.nn.top_k(inputs, k=k, sorted=True).values

def least_k(inputs, k):
    return -tf.nn.top_k(-inputs, k=k, sorted = True).values

def minmax_k(inputs, k):
    return tf.concat([least_k(inputs, k), top_k(inputs, k)], axis = -1)

model = Sequential()
...
model.add(Lambda(minmax_k, arguments={'k': R}))

自定义池化层 - minmax pooling - Keras - Tensorflow

Custom pooling layer - minmax pooling - Keras - Tensorflow

keras

tensorflow

keras-layer

max-pooling