在CNN中，升采样和转置卷积是否相同？

当您进行“反卷积”时，会同时使用“上采样”和“转置卷积”（<-不是一个好术语，但让我在这里使用它）。最初，我以为它们的意思是相同的，但是在我阅读这些文章后，在我看来它们是不同的。有人可以澄清一下吗？

1. 转置卷积：当我们通过卷积神经网络传播损失时，似乎可以使用它。

   http://andrew.gibiansky.com/blog/machine-learning/convolutional-neural-networks/#Backward-Propagation

   https://github.com/vdumoulin/conv_arithmetic

   https://arxiv.org/pdf/1312.6034v2.pdf，第4节“用于卷积层...”

2. 升采样：想要在convnet-decovnet结构中从较小的输入到较大的输入进行升采样时，似乎可以使用它。

   https://www.youtube.com/watch?v=ByjaPdWXKJ4&feature=youtu.be&t=22m

由于没有详细的标记答案，我将尽力而为。

首先让我们了解这些层的动机来自哪里：例如卷积自动编码器。您可以使用卷积自动编码器来提取图像特征，同时训练自动编码器以重建原始图像。（这是一种无监督的方法。）

这样的自动编码器包括两个部分：从图像中提取特征的编码器和从这些特征中重构原始图像的解码器。编码器和解码器的体系结构通常是镜像的。

在卷积自动编码器中，编码器可用于卷积和池化层。我假设您知道这些工作原理。解码器尝试镜像编码器，但是与其“使所有内容变小”，其目的在于“使所有内容变大”以匹配图像的原始大小。

卷积层的反面是转置的卷积层（也称为反卷积，但是从数学上来说，这是有所不同的）。它们与卷积层一样使用滤镜，内核和步幅，但不是从3x3输入像素映射到1输出，而是从1输入像素映射到3x3像素。当然，反向传播的效果也有所不同。

与池化层相反的是上采样层，其最纯粹的形式仅会调整图像的大小（或根据需要复制像素多次）。一种更高级的技术是取消池化，它通过记住最大值在maxpooling层中的位置来还原maxpooling，然后在unpooling层中将值复制到该位置。引用本文（https://arxiv.org/pdf/1311.2901v3.pdf）的文章：

在卷积网络中，最大池化操作是不可逆的，但是我们可以通过在一组开关变量中记录每个池化区域内最大值的位置来获得近似逆。在去卷积网络中，解池操作使用这些开关将来自上一层的重建内容放置到适当的位置，从而保留刺激的结构。

要获得更多的技术投入和背景信息，请查看此非常好的，说明性的和深入的说明：http : //deeplearning.net/software/theano/tutorial/conv_arithmetic.html

并查看https://www.quora.com/What-is-the-difference-between-Deconvolution-Upsampling-Unpooling-and-Convolutional-Sparse-Coding

这可能取决于您使用的软件包。

在喀拉拉邦，他们是不同的。上采样在这里定义https://github.com/fchollet/keras/blob/master/keras/layers/convolutional.py 如果您使用tensorflow后端，实际发生的是keras调用tensorflow resize_images函数，该函数本质上是内插而不是内插可训练的。

转置卷积涉及更多。它在上面列出的相同python脚本中定义。它调用tensorflow conv2d_transpose函数，它具有内核并且可训练。

希望这可以帮助。

卷积神经网络中的反卷积与转置卷积同义。反卷积在其他领域可能具有另一种含义。

转置卷积是执行上采样的一种策略。

这很好地说明了1）转置卷积和2）上采样+卷积之间的区别。 https://distill.pub/2016/deconv-checkerboard/

尽管转置卷积效率更高，但本文提倡进行上采样+卷积，因为它不会受到棋盘伪像的影响。