AIC的人工神经网络中的参数数量

如何计算人工神经网络中的参数数量以计算其AIC？

前馈网络中学习的每个连接都是一个参数。这是来自Wikipedia的通用网络的图像：

尽管不必一定要建立网络，但该网络是完全连接的（例如，设计一个具有接收场的网络可以改善图像的边缘检测）。对于完全连接的ANN，连接数只是连接层中节点数乘积的总和。在上图中，即。该图像没有显示任何偏置节点，但是许多ANN都有它们。如果是这样，则在该层的总数中包括偏差节点。更一般而言（例如，如果您的ANN未完全连接），您可以简单地计算连接数。 $(3\times 4) + (4\times 2) = 20$

神经网络只是函数的功能...（由模型的体系结构决定）。如果无法简化结果函数，则模型中的参数总数（每个节点中所有参数总数的总和）就是您要用于AIC计算的数量。

对于MLP完全连接的网络，可以使用以下（Python）代码：

def total_param(l=[]):
s=0
for i in range(len(l)-1):
    s=s+l[i]*l[i+1]+l[i+1]
return s

那么如果您的网络具有以下层配置

input:  435
hidden: 166 
hidden: 103 
hidden:  64
output:  15

您只需使用

total_param([435,166,103,64,15]) 
97208