在n个时期后PyTorch批次大小突然减少

Question

我有一个在Win 10 cpu上运行的pytorch nn模型。 批次大小为42 经过67次迭代后，发生了一件奇怪的事情：批处理大小突然减小到28，我得到了

RuntimeError: Expected hidden[0] size (1, 28, 256), got (1, 42, 256)

Answer 1

数据集中的训练示例数量是否可能不能被42整除？可能是提醒是28吗？

如果您的模型无法在线处理批次大小，则应考虑在torch.utils.data.DataLoader中设置drop_last=True，这样在训练过程中将只处理全部批次。