我可以在Keras密集层上使用3D输入吗？

Question

作为练习，我只需要使用密集层即可执行文本分类。我想利用单词嵌入，问题在于数据集是3D（样本，句子的单词，嵌入维度）。我可以将3D数据集输入到密集层吗？

谢谢

Answer 1

如the keras documentation中所述，您可以将3D（或更高等级）的数据用作密集层的输入，但输入首先会变平：

  

注意：如果该层的输入的秩大于2，则在带有内核的初始点积之前将其展平。

这意味着如果输入的形状为(batch_size, sequence_length, dim)，则密集层将首先将数据展平为形状(batch_size * sequence_length, dim)，然后像往常一样应用密集层。输出将具有形状(batch_size, sequence_length, hidden_units)。这实际上与应用内核大小为1的Conv1D层相同，并且使用Conv1D层而不是密集层可能更明确。