神经网络是否使用有效的编码?


9

我的问题与有效编码假设之间的关系有关,该假设在Wikipedia页面上概述了有效编码与神经网络学习算法之间的关系。

有效编码假设和神经网络之间有什么关系?

是否有任何有效编码假设明确启发的神经网络模型?

或者说所有神经网络学习算法至少隐式地基于有效编码会更公平吗?


1
也许您所追求的稀疏自动编码器?(如果您的兴趣不是技术性的而是更广泛的/哲学性的,则可以考虑使用kenorb的建议。)
GeoMatt22 2016年

3
有趣的问题。我的猜测是,神经网络距离我们认为“有效”的地方还很遥远。我认为诸如Dropout之类的常用技术实际上会设法降低编码效率。
kbrose

1
另一参考:彩票假说,arxiv.org
abs / 1803.03635

我不是信息理论专家,但我不认为有效编码与NN所做的事情之间没有任何关系,我也不知道结合有效编码的任何历史或当前尝试。但是,
NN

我还没有足够的答案来回答这个问题,但是在我看来,这与NN是否真的只是在记忆而不是学习有关。
比尔·克拉克(

Answers:


1

我相信有人可以说已经建立了联系。对于无法发布我的消息,我将深表歉意,但这来自Hinton展示的一张旧幻灯片。在这篇文章中,他声称,对于那些进行机器学习的人来说,一种基本的思维方式(由于演示文稿先于深度学习这个词的普遍使用)是存在数据的最佳转换,以便可以轻松地进行数据转换。学到了。我相信对于神经网络,通过反向支持对数据进行“最佳转换”是有效的编码假设。就像给定适当的内核一样,可以使用线性模型轻松地对许多空间进行分类,从而学习转换和存储数据的正确方法,这类似于应布置神经元以及如何布置神经元来表示数据。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.