在自动编码器和卷积神经网络中学习的滤波器之间有什么区别？

在CNN中，我们将学习过滤器以在卷积层中生成特征图。

在自动编码器中，每一层的单个隐藏单元都可以视为过滤器。

在这两个网络中学习的过滤器之间有什么区别？

如果将CNN滤镜应用于每个可能位置的图像小块（这也使它们平移不变）。

自动编码器的隐藏层将整个图像（上一层的输出）作为输入，这对于图像来说似乎不是一个好主意：通常只有空间局部特征相互关联，而距离较远的局部特征相互关联性较低。而且，这些隐藏的神经元不是翻译不变的。

因此，CNN像通常的ANN一样，具有特殊的正则化功能，将大部分权重归零以利用局部性。