自动编码器神经网络的起源是什么?


14

我在Google,Wikipedia,Google Scholar等上进行了搜索,但找不到Autoencoders的来源。也许这是一个逐渐发展的概念,不可能追溯到一个清晰的起点,但是我仍然想对它们的主要发展步骤进行一些总结。

Ian Goodfellow,Yoshua Bengio和Aaron Courville的深度学习书中有关自动编码器章节说:

几十年来,自动编码器的思想已成为神经网络历史的一部分(LeCun,1987; Bourlard和Kamp,1988; Hinton和Zemel,1994)。传统上,自动编码器用于降维或特征学习。

演示文稿由帕斯卡尔·文森特说:

实际上,使用经典自动编码器进行降噪的方法要早得多(LeCun,1987; Gallinari等,1987),作为Hopfield网络的替代方法(Hopfield,1982)。

这似乎暗示“经典自动编码器”在此之前存在:LeCun和Gallinari使用了它们,但并未发明它们。1987年之前,我看不到“经典自动编码器”的踪迹。

有任何想法吗?

Answers:


9

根据Schmidhuber提供的历史记录“ 神经网络的深度学习:概述 ”,神经网络(2015),提出了将自动编码器作为Ballard中无监督预训练的一种方法,“神经网络的模块化学习”,论文集AAAI(1987)。尚不清楚这是否是第一次使用自动编码器。这只是第一次将它们用于预训练ANN的目的

正如Schmidhuber文章的引言所明确指出的那样,将ANN中使用的所有想法归因于某种程度上有些困难,因为文献种类繁多,并且术语随着时间的流逝而发展。


1
巴拉德(Ballard)撰写的论文具有完全不同的术语,甚至对自动编码器的概念也没有任何了解。也许AE没有任何原始文件。
abunickabhi

2
Schmudhuber论文强调,术语已经随着时间而改变,并且不同的人不断地重新发现相同的主题。这并不令人惊讶的是,作者没有用“自动编码器”
Sycorax恢复莫妮卡说,

4

下面的论文间接地讨论了自动编码器,其历史可以追溯到1986年(比Ballard在1987年的论文要早一年)。

DE Rumelhart,GE Hinton和RJ Williams,“通过错误传播学习内部表示”。,并行分布式处理。第1卷:基金会。麻省理工学院出版社,麻省剑桥,1986。

本文基本描述了当时的一种新型前馈网络及其数学形式。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.