我的问题与有效编码假设之间的关系有关,该假设在Wikipedia页面上概述了有效编码与神经网络学习算法之间的关系。
有效编码假设和神经网络之间有什么关系?
是否有任何有效编码假设明确启发的神经网络模型?
或者说所有神经网络学习算法至少隐式地基于有效编码会更公平吗?
1
也许您所追求的是稀疏自动编码器?(如果您的兴趣不是技术性的而是更广泛的/哲学性的,则可以考虑使用kenorb的建议。)
—
GeoMatt22 2016年
有趣的问题。我的猜测是,神经网络距离我们认为“有效”的地方还很遥远。我认为诸如Dropout之类的常用技术实际上会设法降低编码效率。
—
kbrose
另一参考:彩票假说,arxiv.org
—
abs / 1803.03635
—
NN
我还没有足够的答案来回答这个问题,但是在我看来,这与NN是否真的只是在记忆而不是学习有关。
—
比尔·克拉克(