神经网络中的EPOCH是什么？

Question

神经网络中的EPOCH是什么

我想要EPOCH定义。

EPOCH将更新权重。

那么它是如何运作的？

更改“培训数据（输入数据）”？

更改“Delta规则（激活功能）”？

http://pages.cs.wisc.edu/~bolo/shipyard/neural/local.html

Answer 1

这是在训练具有梯度下降的神经网络的背景下进行的。由于我们通常使用随机或小批量梯度下降来训练NN，因此并非所有训练数据都在每个迭代步骤中使用。

随机和小批量梯度下降在每次迭代时使用batch_size数量的训练样例，因此在某些时候您将使用所有数据进行训练，并且可以从数据集的开头重新开始。

考虑到这一点，一个时期是整个训练集的一次完整传递，意味着它是梯度下降更新的多次迭代，直到你向NN显示所有数据，然后重新开始。

Answer 2

说得非常简单：

Epoch是一切都在发生的功能。在一个时期内，您开始向前传播和反向传播。在一个时期内，您可以激活神经元，计算损失，获得损失函数的偏导数，并使用权重更新新值。当所有这些都完成后，你开始新的时代，然后是新时代等。时代的数量并不重要。什么问题是你的损失函数，衍生物等的变化。所以当你对结果满意时，你可以停止epoch迭代并让你的模型出来:)

Answer 3

Epoches是单次通过整个训练数据集。 传统梯度下降计算损失函数的梯度，关于给定数量的历元的整个训练数据集的参数。