如何获得 Keras 激活？

Question

我不确定如何修改我的代码以获得 keras 激活。我看到了 K.function() 输入的相互矛盾的例子，我不确定我是否在激活的每一层都得到了输出。

这是我的代码

activity = 'Downstairs'
layer = 1


seg_x = create_segments_and_labels(df[df['ActivityEncoded']==mapping[activity]],TIME_PERIODS,STEP_DISTANCE,LABEL)[0]
get_layer_output = K.function([model_m.layers[0].input],[model_m.layers[layer].output])
layer_output = get_layer_output([seg_x])[0]

try: 
    ax = sns.heatmap(layer_output[0].transpose(),cbar=True,cbar_kws={'label':'Activation'})
except:
    ax = sns.heatmap(layer_output.transpose(),cbar=True,cbar_kws={'label':'Activation','rotate':180})

ax.set_xlabel('Kernel',fontsize=30)
ax.set_yticks(range(0,len(layer_output[0][0])+1,10))
ax.set_yticklabels(range(0,len(layer_output[0][0])+1,10))
ax.set_xticks(range(0,len(layer_output[0])+1,5))
ax.set_xticklabels(range(0,len(layer_output[0])+1,5))
ax.set_ylabel('Filter',fontsize=30)
ax.xaxis.labelpad = 10
ax.set_title('Filter vs. Kernel\n(Layer=' + model_m.layers[layer].name + ')(Activity=' + activity + ')',fontsize=35)

这里关于stack overflow的建议就照我做的做吧：

示例 4 将 k 的学习阶段添加到组合中，但我的输出仍然相同。 https://www.programcreek.com/python/example/93732/keras.backend.function

我得到的是输出还是激活？文档暗示我可能需要 layers.activations 但我还没有做到这一点。

我的代码，或者学习阶段通过的代码都得到了这个热图。 https://imgur.com/a/5fI6N0B

Answer 1

对于定义为例如Dense(activation='relu')、layer.outputs 将获取 (relu) 激活。要获得图层 pre-activations，您需要设置 activation=None（即 'linear'），然后是 Activation 图层。示例如下。

from keras.layers import Input, Dense, Activation
from keras.models import Model
import numpy as np
import matplotlib.pyplot as plt
import keras.backend as K

ipt = Input(shape=(8,))
x   = Dense(10, activation=None)(ipt)
x   = Activation('relu')(x)
out = Dense(1, activation='sigmoid')(x)

model = Model(ipt, out)
model.compile('adam', 'binary_crossentropy')

X = np.random.randn(16, 8)
outs1 = get_layer_outputs(model, model.layers[1], X, 1)  # Dense
outs2 = get_layer_outputs(model, model.layers[2], X, 1)  # Activation

plt.hist(np.ndarray.flatten(outs1), bins=200); plt.show()
plt.hist(np.ndarray.flatten(outs2), bins=200); plt.show()

使用的函数:

def get_layer_outputs(model, layer, input_data, learning_phase=1):
    layer_fn = K.function([model.input, K.learning_phase()], layer.output)
    return layer_fn([input_data, learning_phase])

如何获得 Keras 激活？

How to get Keras activations?

python

keras

activation