深度神经网络与其他神经网络有何不同?


Answers:


28

不同之处主要在于层数。

长期以来,人们认为“ 1-2个隐藏层足以完成大多数任务”,并且不愿意使用更多隐藏层,因为训练神经网络可能对计算有很高的要求。

如今,计算机的功能越来越强大,因此人们开始使用具有更多层的网络,并且发现它们在某些任务上工作得很好。

此处的“较深”一词仅是要将这些网络与传统的“较浅”网络区分开来。


如果我正确理解了“深度学习”,则可以将某些参数(权重)联系在一起,从而减少了参数空间。普通的NN无法做到这一点。
拉斐尔

@Raphael,回复:some parameters (weights) that are tied together, thus reducing the parameter space,您是指卷积神经网络吗?
publicgk

@publicgk这就是我所看到的,是的。
拉斐尔

我一直听到“深度学习”是在使用非常大的数据集时。这是一个错误,数据的大小无关紧要吗?还是人们将深度学习与庞大的数据集相关联,因为这是培训所必需的。
史蒂芬·萨贡纳

我想指出的是,这种“相信”的事实是只有1个隐藏层的神经网络就可以计算任何功能(请参见例如Neuronetworksanddeeplearning.com/chap4.html)。我认为您应该多解释一下为什么“方便”超过1个隐藏层。
nbro

9

深度神经网络只是具有许多层的(前馈)神经网络。

但是,深层信念网络,深层Boltzman网络等不被视为(可辩论的)深层神经网络,因为它们的拓扑结构是不同的(它们在拓扑结构中具有无向网络)。

另请参阅:https : //stats.stackexchange.com/a/59854/84191

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.