我们什么时候对BatchNorm层使用in_place = True?

时间:2017-05-17 02:34:15

标签: machine-learning neural-network deep-learning caffe

使用SELECT COUNT(DATEDIFF(second,CheckinTime,ServiceStart)) FROM Interaction WHERE ServiceEnd = '00:00:00.000' 对图层的好处是节省内存。但是,我发现像ResNet这样的论文使用in_place=True作为BatchNorm层。我的问题是我们何时使用in_place=False作为BatchNorm图层。它对性能有影响吗?谢谢大家

in_place=True/False

制作上述原型文件的相关代码是

layer {
  name: "bnorm1"
  type: "BatchNorm"
  bottom: "conv1_bn"
  top: "conv1_bn"
  batch_norm_param {
    use_global_stats: false
  }
}

0 个答案:

没有答案