为什么这个模型有两次激活？

Question

我不明白为什么下面的代码同时具有激活层和激活参数？线性激活然后LeakyReLU有什么意义？最后，损失函数是作用于最后一层还是最后一层被激活后？

fashion_model = Sequential()
fashion_model.add(Conv2D(32, kernel_size=(3, 3),activation='linear',input_shape=(28,28,1),padding='same'))
model.add(LeakyReLU(alpha=0.1))
model.add(MaxPooling2D((2, 2),padding='same'))
...more code...
model.add(Dense(num_classes, activation='softmax'))
model.compile(loss=keras.losses.categorical_crossentropy, optimizer=keras.optimizers.Adam(),metrics=['accuracy'])

Answer 1

'线性'激活意味着没有激活（它只是身份映射）。 损失应用于模型的输出，在这种情况下模型的输出是softmax。