Question

我正在使用以下代码在keras中训练一个简单的模型用于NLP任务。变量名称对于训练，测试和验证集是不言自明的。该数据集有19个类，因此网络的最后一层有19个输出。标签也是一种热门编码。

nb_classes = 19
model1 = Sequential()
model1.add(Embedding(nb_words,
                     EMBEDDING_DIM,
                     weights=[embedding_matrix],
                     input_length=MAX_SEQUENCE_LENGTH,
                     trainable=False))
model1.add(LSTM(num_lstm, dropout=rate_drop_lstm, recurrent_dropout=rate_drop_lstm))
model1.add(Dropout(rate_drop_dense))
model1.add(BatchNormalization())
model1.add(Dense(num_dense, activation=act))
model1.add(Dropout(rate_drop_dense))
model1.add(BatchNormalization())

model1.add(Dense(nb_classes, activation = 'sigmoid'))


model1.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
#One hot encode all labels
ytrain_enc = np_utils.to_categorical(train_labels)
yval_enc = np_utils.to_categorical(val_labels)
ytestenc = np_utils.to_categorical(test_labels)

model1.fit(train_data, ytrain_enc,
             validation_data=(val_data, yval_enc),
             epochs=200,
             batch_size=384,
             shuffle=True,
             verbose=1)

在第一个纪元之后，这给了我这些输出。

Epoch 1/200
216632/216632 [==============================] - 2442s - loss: 0.1427 - acc: 0.9443 - val_loss: 0.0526 - val_acc: 0.9826

然后我在测试数据集上评估我的模型，这也显示我在0.98附近的准确度。

model1.evaluate(test_data, y = ytestenc, batch_size=384, verbose=1)

然而，标签是单热编码的，所以我需要类的预测向量，这样我就可以生成混淆矩阵等。所以我用，

PREDICTED_CLASSES = model1.predict_classes(test_data, batch_size=384, verbose=1)
temp = sum(test_labels == PREDICTED_CLASSES)
temp/len(test_labels)
0.83

这表明总预测类别准确率为83％，但model1.evaluate显示98％的准确率！我在这做错了什么？我的损失功能是否可以使用分类标签？我对预测图层的sigmoid激活函数的选择是否可以？或者keras评估模型的方式有所不同？请提出可能出错的建议。这是我第一次尝试制作一个深层模型，所以我不太了解这里的错误。

Answer 1

我发现了这个问题。 metrics=['accuracy']自动从费用函数计算准确度。因此，使用binary_crossentropy显示二进制精度，而不是分类精度。使用categorical_crossentropy会自动切换到分类准确度，现在它与使用model1.predict()手动计算的相同。 Yu-Yang指出了多类问题的成本函数和激活函数是正确的。

P.S：使用metrics=['binary_accuracy', 'categorical_accuracy']

可以获得分类和二进制精度

Keras：model.evaluate vs model.predict多级NLP任务的准确度差异

1 个答案: