自动编码器可以用于监督学习吗？

可以在不增加输出层的情况下将自动编码器用于监督学习吗？我们是否可以简单地将其连接以输入-输出向量进行训练，并在进行推理时从输入部分重构输出部分？在推理过程中，输出部分将被视为缺失值，并将进行一些估算。

我了解并实施的此类论文之一是使用梯形网络进行的半监督学习。我在这里引用他们对模型的描述：

我们的方法遵循Valpola（2015），他提出了一个Ladder网络，其中的辅助任务是在模​​型的每个级别对表示进行去噪。模型结构是一个自动编码器，具有从编码器到解码器的跳过连接，学习任务类似于去噪自动编码器中的学习任务，但它不仅应用于输入，还应用于每个层。跳过连接减轻了代表模型较高层中细节的压力，因为通过跳过连接，解码器可以恢复编码器丢弃的任何细节。

有关架构的进一步说明，请参阅Yoshua Bengio的《解构阶梯网络架构》。

如果我对您的理解正确，我会记得阅读有关此类系统的论文，但目前无法回忆起标题。

这个想法是使用基于字符的生成RNN，将它们训练在编码为“ datadatadata | answer”的序列上，然后在输入“ otherdatadata |”时进行训练 那么它将继续产生某种预期的答案。

但是，据我所知，这只是一个很好的例子，因为如果您有数据要做监督的事情，那么使用传统方法将获得更好的结果。