训练卷积神经网络


11

我目前正在开发使用卷积神经网络识别面部的面部识别软件。根据我的阅读,我收集到卷积神经网络具有权重,以节省训练时间。但是,如何适应反向传播,以便可以在卷积神经网络中使用。在反向传播中,人们使用与此类似的公式来训练权重。

New Weight  = Old Weight +  LEARNING_RATE * 1 * Output Of InputNeuron * Delta

但是,由于在卷积神经网络中权重是共享的,因此每个权重都与多个神经元一起使用,那么如何确定使用哪个权重Output of InputNeuron

换句话说,由于权重是共享的,我该如何决定将权重改变多少?

Answers:


13

您需要首先计算所有更新,就好像未共享Wieght,而只是存储它们,实际上还没有进行任何更新。

令为网络中位置和其中是学习率,是您的目标函数。请注意,在这一点上,如果没有权重分配,您只需将提升为 要处理共享权重,您需要总结所有单个更新。因此,设置 ,然后更新 wkIk={(i,j):wi,j=wk}Δwi,j=ηJwi,jηJwi,j

wi,j=wi,j+Δwi,j.
Δwk=(i,j)IkΔwi,j
wk=wk+Δwk.

1
您对此有任何参考吗?进一步阅读
乔恩
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.