Question

我想使用this article进行神经网络构建，但是我遇到了权重向量更新算法的一些问题。具体来说，使用公式marked red。任何人都可以帮助我理解，什么是hm（i）和符号“|”手段？

Answer 1

这看起来像back-propagation计算神经网络训练误差的梯度。 Bishop（第244页）列出了一个关键公式：

δj = h'(aj) SUM(k, wkj δk)

δ是隐藏节点或输出节点的预测值和标记值之间的误差。右侧的δ项已经计算好，并且与正在考虑的下一层输出区相对应。

h'项是非线性activation function的导数，通常是sigmoid function或tanh。图片中列出的hm看起来像tanh的衍生变换。

竖线是评估的语法：f(t) = f(x) | t。我不清楚你的形象中的表达是什么;我错了。