瓶颈层在神经网络中意味着什么?


14

我正在阅读FaceNet论文,在导的第3段中说:

基于深度网络的先前的面部识别方法使用在一组已知面部身份上训练的分类层,然后采用中间瓶颈层作为表示,用于对训练中使用的一组身份以外的识别进行概括。

我想知道中间瓶颈层是什么意思?


1
它用于减少计算量,并对上一层进行转换。
kxm沉默

Answers:


17

瓶颈层是与以前的层相比包含很少节点的层。它可用于获取尺寸降低的输入的表示形式。这方面的一个示例是将具有瓶颈层的自动编码器用于非线性降维。

我对报价的理解是,以前的方法使用深层网络对面孔进行分类。然后,他们进入该网络的前几层,从输入到中间层(例如,第层,包含节点)。该子网实现了从输入空间到维向量空间的映射。第层是瓶颈层,因此第层中节点的激活向量给出了输入的较低维表示。原始网络不能用于对未经过训练的新身份进行分类。但是,knknkkkk通常,该层可以很好地表示人脸。因此,要学习新的身份,可以将新的分类器层堆叠在第层之上并进行训练。或者,可以通过子网馈送新的训练数据,以获得来自第层的表示,并且可以将这些表示馈送到其他分类器。kk

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.