无法找出卷积神经网络中的线性嵌入层?


11

我从“学习具有深度排名的细粒度图像相似性”一文中获得了网络体系结构,但是我无法弄清楚如何使用线性嵌入层合并三个并行网络的输出。本文中有关此层的唯一信息是

最后,我们将三个部分的嵌入标准化,然后将它们与线性嵌入层组合。嵌入的尺寸为4096。

谁能帮助我弄清楚作者在谈论这一层时的确切含义?


对我来说很不幸,这个问题没有答案。因为我遇到了完全相同的问题。你知道了吗?
LKM

我没有弄清楚答案,但是我只是将三部分的输入连接起来,然后将其通过包含4096个节点的密集层。
A. Sam

Answers:


1

线性嵌入层必须只是没有激活的密集层的奇特名称。“线性”表示没有激活(激活就是身份)。而且,嵌入实际上是输入数据的矢量表示(例如单词嵌入)的概念。我相信第二个向量中的元素只是简单地添加到第一个元素中。


0

在论文中提到:

局部归一化层对局部邻域周围的特征图进行归一化以具有单位范数和零均值。它会生成对光照和对比度差异具有鲁棒性的特征图。

他们采用模型的每个部分并分别对其进行规范化。

至于将它们组合起来的方法,正如您所评论的那样,可以捕获最显着的特征,并且具有不完整的表示形式,因此不需要非线性。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.