架构MNIST,完全连接第1层,输出大小

时间:2018-04-24 00:55:18

标签: machine-learning deep-learning conv-neural-network convolutional-neural-network

我不明白其中的一部分(quora: How does the last layer of a ConvNet connects to the first fully connected layer):

  

制作功能图的热门表示。所以我们会有64 *   7 * 7 = 3136个输入特征,再次由3136个神经元处理   将其减少到1024个功能。矩阵乘法这一层   将是(1x3136)*(3136x1024)=> 1x1024

我的意思是,使用3136个神经元减少3136个输入到1024个特征的过程是什么?

2 个答案:

答案 0 :(得分:0)

我会用外行的术语解释它我是如何理解的。

要素图的一个热门表示是使用1和0通过矩阵表示分类值的方法。这是机器读取/处理数据的方式(在您的示例中,图像或图片)。然后ig使用矩阵代数进行计算。

现在计算的一部分是1行和3136列二进制值(1或0)的乘法和另一个大小为3136行和1024列的矩阵。当您将这两个矩阵复用时,生成的矩阵为1行和1024列。现在是1和0的矩阵,代表你的图像或图片。

答案 1 :(得分:0)

希望我的问题是对的。

您需要了解矩阵乘法。 (1x3136)*(3136x1024)是矩阵乘法的示例,第一乘数((1x3136))列号必须等于第二乘数(3136x1024)行号。这导致(1x1024),因为第一乘数的行变为结果行,而第二乘数的列变为结果的列。

另外,请检查:

https://www.khanacademy.org/math/precalculus/precalc-matrices/multiplying-matrices-by-matrices/v/multiplying-a-matrix-by-a-matrix