凯拉斯，如何得到每一层的输出？

Question

我用CNN训练了一个二进制分类模型，这是我的代码

model = Sequential()
model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1],
                        border_mode='valid',
                        input_shape=input_shape))
model.add(Activation('relu'))
model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=pool_size))
# (16, 16, 32)
model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=pool_size))
# (8, 8, 64) = (2048)
model.add(Flatten())
model.add(Dense(1024))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(2))  # define a binary classification problem
model.add(Activation('softmax'))

model.compile(loss='categorical_crossentropy',
              optimizer='adadelta',
              metrics=['accuracy'])
model.fit(x_train, y_train,
          batch_size=batch_size,
          nb_epoch=nb_epoch,
          verbose=1,
          validation_data=(x_test, y_test))

在这里，我想得到每一层的输出，就像TensorFlow，我怎么做？

Answer 1

您可以使用：model.layers[index].output轻松获得任何层的输出

对于所有层，请使用：

from keras import backend as K

inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers]          # all layer outputs
functors = [K.function([inp, K.learning_phase()], [out]) for out in outputs]    # evaluation functions

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = [func([test, 1.]) for func in functors]
print layer_outs

注：若要模拟退出，请在layer_outs中使用learning_phase作为1.，否则使用0.

编辑：（基于评论）

K.function创建no/tensorflow张量函数，该函数稍后用于从给定输入的符号图中获取输出。

现在K.learning_phase()是必需的输入，因为许多像Dropout/Batchnomalization这样的Keras层依赖它来改变训练和测试期间的行为。

因此，如果删除代码中的退出层，您可以简单地使用：

from keras import backend as K

inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers]          # all layer outputs
functors = [K.function([inp], [out]) for out in outputs]    # evaluation functions

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = [func([test]) for func in functors]
print layer_outs

编辑2：更优化

我刚刚意识到，前面的答案并不是对每个函数的计算都进行优化，数据将被传输到CPU->；GPU内存中，而且张量计算需要在n-over上为较低层进行。

相反，这是一种更好的方法，因为您不需要多个函数，而只需要一个函数即可列出所有输出：

from keras import backend as K

inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers]          # all layer outputs
functor = K.function([inp, K.learning_phase()], outputs )   # evaluation function

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = functor([test, 1.])
print layer_outs

Answer 2

基于这个线程的所有正确答案，我编写了一个库来获取每个层的输出。它抽象了所有的复杂性，并且设计得尽可能友好：

https://github.com/philipperemy/keract

它能处理几乎所有的边缘案件

希望有帮助！

Answer 3

来自https://keras.io/getting-started/faq/#how-can-i-obtain-the-output-of-an-intermediate-layer

一个简单的方法是创建一个新模型，该模型将输出您感兴趣的图层：

from keras.models import Model

model = ...  # include here your original model

layer_name = 'my_layer'
intermediate_layer_model = Model(inputs=model.input,
                                 outputs=model.get_layer(layer_name).output)
intermediate_output = intermediate_layer_model.predict(data)

或者，您可以构建一个Keras函数，该函数将返回给定特定输入的特定层的输出，例如：

from keras import backend as K

# with a Sequential model
get_3rd_layer_output = K.function([model.layers[0].input],
                                  [model.layers[3].output])
layer_output = get_3rd_layer_output([x])[0]