特征的顺序影响神经网络的结果

Question

那么， 我真的很困惑。

我有一个简单的功能顺序，即所有字母和几个符号，计算字符串中包含的次数。

我的选择结果如下

numberOf_a
numberOf_b
...
numberOf_Z
numberOf_.
numberOf_,

我有一个65个值的测试样本，MLP可以得到46个正确值。

现在如果我以随机顺序排列特征的顺序，使用相同的数据训练，评估相同的值，我得到不同数量的正确预测，例如49。

结果是一致的（相同的顺序会产生相同的准确度）但随机顺序之间的准确性会发生变化。

问题是，这应该发生吗？我看不出这个理论是如何得到支持的。我在这里错过了一些大事？

PS。我正在使用WEKA实施的MLP

Answer 1

我不熟悉MLP的WEKA实现，但这似乎不应该是神经网络算法应该发生的事情。

它似乎陷入某种局部最低限度。该算法可以每次以相同的方式初始化各个神经元的权重。然后，根据初始参数顺序，更改参数顺序可能会使算法每次都为特定参数顺序达到相同的答案。 “局部最小值”可能由算法确定，每次只进行一定次数的迭代。