神经网络和深度学习之间的区别

10

就神经网络和深度学习之间的区别而言，我们可以列出几个项目，例如包括更多的层，海量数据集，强大的计算机硬件，以使训练复杂的模型成为可能。

除了这些，还有关于NN和DL之间差异的更详细的解释吗？

— 用户名
source

3

据我所知，仅具有几个隐藏层就足以使网络“变深”。更多的数据和更大的计算机更多地体现了两者都可用于机器学习任务。

— Sycorax说恢复莫妮卡

也许这个问题应该移植到新的人工智能堆栈交换中？

— WilliamKF'9

2

@WilliamKF这是直接的话题。

— Sycorax说恢复莫妮卡

7

深度学习=深度人工神经网络+ 其他类型的深度模型。

深度人工神经网络=一层以上的人工神经网络。（请参阅深度神经网络中的最小层数）

— 弗兰克·德农库特
source

4

弗兰克·德农库尔（Frank Dernoncourt）有一个更好的通用答案，但我认为值得一提的是，当人们使用广泛的术语“深度学习”时，它们通常暗示着使用了诸如卷积之类的最新技术，而您在旧式/传统式中找不到（完全连接）神经网络。对于图像识别问题，卷积可以启用更深的神经网络，因为卷积的神经元/过滤器通过共享权重来降低过度拟合的风险。

— 瑞安·佐蒂（Ryan Zotti）
source

1

具有很多层的神经网络是深度架构。

但是，当网络很深时，神经网络中使用的反向传播学习算法效果不佳。深度架构中的学习架构（“深度学习”）必须解决这一问题。例如，玻尔兹曼机器改为使用对比学习算法。

提出一个深层次的架构很容易。事实证明，提出一种适用于深度架构的学习算法非常困难。

— 尼尔·G
source

但是，似乎反向传播算法仍被用来训练卷积网络和递归网络，即使它们利用了一些新开发的数值优化技术，例如批量归一化。

— user3269

@ user3269批处理规范化和辍学是对学习算法进行修改的示例，以尝试使其在深度体系结构中正常工作。

— Neil G

0

深度学习需要一个具有多层的神经网络-每层进行数学转换并馈入下一层。最后一层的输出是网络针对给定输入的决策。输入和输出层之间的层称为隐藏层。

深度学习神经网络是大量互连的感知器集合。网络中每个感知器的权重和偏差会影响整个网络的输出决策的性质。在完美调谐的神经网络中，所有感知器的权重和偏差的所有值均应确保对于所有可能的输入，输出决策始终正确（如预期）。权重和偏差如何配置？这是在网络训练期间反复发生的-称为深度学习。（Sharad Gandhi）

— 穆罕默德·沙基尔·米萨瓦拉
source