什么" 2-way" softmax意味着什么?

时间:2017-11-06 22:18:53

标签: neural-network softmax

我无法就此达成明确的共识。

2-way softmax是什么意思,它与 n-way softmax有何不同?

Geoffrey Hinton在他的Coursera课程机器学习神经网络在测验4中给出的定义是:

  

具有2个元素的softmax单元

我对此完全陌生,所以我不明白这是否意味着:

  1. 神经元只有两个输入来计算softmax?
  2. 函数的输出是一个包含2个元素的向量?例如。 [0.5,0.2]
  3. 输出只能是0或1?
  4. 任何澄清都表示赞赏。

1 个答案:

答案 0 :(得分:0)

据我所知这个问题:2路Softmax意味着,神经网络应该决定,天气是这个(x)还是那个。所以它只能输出二元决策。

N-way表示您有多个输出。例如:如果给定的图片显示狗或猫(双向),您的网络应该决定

另一个网络应该告诉我们,如果图片显示的是汽车,球,房子或人等......(n-way)。 看一下这个: https://github.com/Kulbear/deep-learning-nano-foundation/wiki/ReLU-and-Softmax-Activation-Functions

从技术上讲:网络中的一堆神经元与数学运算,权重和偏差相关联......

我使用的大多数型号使用0到1之间的数字(双/浮点数)。但在分类网络中,您希望有一个定义的结果。对于猫/狗网络,你将有2个输出神经元(一个用于猫概率,另一个用于狗概率)。所以给定的图片有一个清晰的肥狗会产生类似(0.265,0.995)的东西。所以它最有可能是一只狗。在这里应用2路softmax将导致〜(0.2,0.8)。所以"它是一只狗"

基本上:它使模糊输出标准化,使用户能够做出明确的决定。阅读提供的链接。很好......

相关问题