卷积层中的多个过滤器在训练期间不会学习相同的参数吗?


11

根据我的了解,我们在CNN的转换层中使用多个过滤器来学习不同的特征检测器。但是,由于这些过滤器的应用方式相似(即,将其滑动并与输入区域相乘),难道它们不是在训练过程中学习相同的参数吗?因此,使用多个过滤器将是多余的吗?

Answers:


6

我在理解这一事实时也感到困惑。初学者会感到困惑,因为这本书没有明确提到过滤器是不同的。

因为这些滤镜的应用方式相似

过滤器的应用类似,但矩阵中单元格的值彼此不同。因此他们从图像中提取了不同的特征。

他们会不会只是在训练期间学习相同的参数

不,由于过滤器现在不同,因此他们不会学习相同的参数。因此,使用多个过滤器不是多余的。


感谢您的回答。是什么使它们与众不同?我们如何确保他们在培训期间学习不同的参数?是它们的初始值吗?
cjbayron

1
每个单元格的不同值使它们不同。就像有些人会检测到倾斜线,有些人会检测到45度曲线线等。因此它们都是不同的。
钢铁侠

1
是的,我了解不同的值会使过滤器检测不同的功能。但是这些过滤器在训练过程中如何学习不同?
cjbayron

3
如果所有过滤器均以相同的方式开始,那么它们将保持这种状态。随机初始化意味着他们从不同的地方开始,从那里学习不同的东西。在神经网络中查找对称性破坏以获得更多信息。
亚伦

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.