右边填充与左边填充单词向量?

时间:2018-01-31 03:16:23

标签: machine-learning nlp lstm rnn

在RNN世界中,填充单词向量的哪一端是否重要,因此它们都具有相同的长度?

实施例

pad_left = [0, 0, 0, 0, 5, 4, 3, 2] 
pad_right = [5, 4, 3, 2, 0, 0, 0, 0]

1 个答案:

答案 0 :(得分:1)

有些人在他们的论文Effects of Padding on LSTMs and CNNs中对填充前和填充后进行了实验。这是他们的结论。

对于LSTM,填充后的准确性(50.117%)比填充前的准确性(80.321%)

前填充和后填充对CNN无关紧要,因为与LSTM不同,CNN不会尝试记住先前输出中的内容,而是尝试在给定数据中查找模式。

我从没想到填充位置会产生如此大的影响,所以建议您亲自进行验证。