Tensorflow：这是批次标准化的正常行为吗？

Question

见截图。没有批量标准化是蓝线。在上面的图中准确，在下面的图中损失。因此，如果没有BN，损耗会慢慢减小，精度也会缓慢增加，这是预期的行为。在

但是我尝试批量标准化。训练损失很快收敛到接近零的值。这比没有要好得多，但是在列车和测试集上测试的精度会给出更糟糕的结果。

我的实现基于这个：http://ruishu.io/2016/12/27/batchnorm/ 因此，将批量标准添加到如下层：

h1_p_bn = tf.contrib.layers.batch_norm(h1_p, center=True, scale=True, is_training=self.is_training,scope='bn1')

与模特儿培训测试精度时设置为零的占位符（上绘图）。在

我也这么做：

^{pr2}$

有什么想法或建议吗？在