6

为什么在为神经网络预处理图像数据时,我们需要以零为中心的数据。为什么是这样?

图片

4

1 回答 1

8

均值减法零中心是一种常见的预处理技术,涉及从每个数据点中减去均值以使其以零为中心。考虑一个神经元的输入全部为正或全部为负的情况。在这种情况下,反向传播期间计算的梯度将是正数或负数(与输入的符号相同)。因此,参数更新仅限于特定方向,这反过来又会使其难以收敛。结果,梯度更新在不同方向上走得太远,这使得优化变得更加困难当数据集是对称的(均值为零)时,许多算法表现出更好的性能。

于 2019-12-31T06:20:04.293 回答