连体广告网络的标准偏差

Question

如果我有一个将输入成对输入的暹罗网络，例如my_input = ( Total_examples, 2, frame number , hight, width, channel)，那么我的问题是

1. 我应该将整个数据的平均值和标准差作为一个集合来计算，还是应该单独计算每一侧的平均值和标准差，即input1= my_input[:, 0, :, :, :, :]和input2= my_input[:, 2, :, :, :, :]的平均值和标准差。
2. 如果我在image-net上使用预训练网络，并且在不同的数据集（面部数据集）上进行微调，我应该依赖Imagenet的std还是我的数据集？
3. 我的数据集非常大，为了进行均值计算和标准差计算，我计算了每个批次的示例总数和example - mean的总数。我的问题是我尝试了两次实验以查看该值是否准确；一次是在500个示例的数据集上，然后直接对整个数据进行均值和标准差的计算；第二次是对该数据集的批次进行一次实验，一次是100个示例，如果在dtype = np.float32操作中使用np.sum或更小值，则均值和标准差将不同；如果使用dtype= npfloat.64或np.flot128，则均值和标准差将相同。而且我知道造成这种差异的原因是由于精度和溢出。因此，这是否意味着如果我有大型数据集，并且想对数据流进行某些操作，那么在求和运算中应该使用np.float64而不是np.float.32？