在深度学习中的深度残差网络中,残差学习块到底是什么?


12

我正在阅读论文《深度残差学习以进行图像识别》,但我很难100%地确定残差块在计算上的含义。阅读他们的论文,他们有图2:

在此处输入图片说明

它说明了残余块应该是什么。残差块的计算是否与以下内容完全相同:

y=σ(W2σ(W1x+b1)+b2+x)

或者是别的什么?

换句话说,也许是试图与论文的符号相匹配的是:

F(x)+x=[W2σ(W1x+b1)+b2]+x

真的吗?

y

σ(F(x)+x)=σ([W2σ(W1x+b1)+b2]+x)

σ


是x是正relu(x)= x
Ray Tayek '17

Answers:


By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.