从什么时候开始将多层神经网络分类为深层神经网络,或者换句话说:“深层神经网络的最小层数是多少?”
一个隐藏的层是一个深层网络
—
Hugh
从什么时候开始将多层神经网络分类为深层神经网络,或者换句话说:“深层神经网络的最小层数是多少?”
Answers:
“深层”
最早的深层神经网络之一具有三个紧密相连的隐藏层(Hinton等人(2006))。
“非常深”
2014年,“非常深”的VGG网络Simonyan 等人。(2014)由16个以上的隐藏层组成。
“极深”
2016年,“极深”残留网络He等人。(2016)包含50到1,000多个隐藏图层。
根据文献,
Schmidhuber,J.(2015年)。“神经网络中的深度学习:概述”。神经网络。61:85-117。arXiv:1404.7828免费阅读。doi:10.1016 / j.neunet.2014.09.003。
https://zh.wikipedia.org/wiki/深度学习
据说
尚无关于将深度学习与深度学习区分开的深度阈值达成共识,但该领域的大多数研究人员都同意深度学习具有多个非线性层(CAP> 2),Schmidhuber认为CAP> 10是非常深度的学习
从输入到输出的转换链是信用分配路径或CAP。对于前馈神经网络,CAP的深度(即网络的深度)是隐藏层数加1。