选择神经网络中的层数

Question

对于解决给定问题需要多少层/神经元，是否有任何一般规则？

据我所知，1个隐藏层对于可线性分离的图案（例如AND逻辑门）是足够的，而对于不是（XOR门）的图案则是2个隐藏层。我想制作一个可以学习分离给定2个参数的3种对象的方法。

为了清晰起见，我附上了一张图片。

Answer 1

  

我理解1个隐藏层用于可线性分离的图案（例如AND逻辑门）和2个隐藏图层用于不是（XOR门）的图案

事实并非如此：对于不能线性分离的模式，一个隐藏层通常也足够了。

层中神经元的数量对理论上的可分离性更重要。在XOR问题上，具有3-4个神经元的单层将非常快速地完成。

至于如何选择实际数字，对于一些问题，众所周知什么是最好的。还有各种启发式方法（例如，对于单个隐藏层，sqrt(input layer size + output layer size)是基本的）。

通常，您必须尝试多种选项，可能使用网格搜索，并查看哪种方法更适合您的问题。