我正在阅读Ilya Sutskever和Quoc Le撰写的基础论文《使用神经网络进行序列学习》。在第一页上,它简短地提到:
A surprising example of the power of DNNs is their ability to sort
N N-bit numbers using only 2 hidden layers of quadratic size
谁能简要概述如何仅使用2个隐藏层对数字进行排序?
我正在阅读Ilya Sutskever和Quoc Le撰写的基础论文《使用神经网络进行序列学习》。在第一页上,它简短地提到:
A surprising example of the power of DNNs is their ability to sort
N N-bit numbers using only 2 hidden layers of quadratic size
谁能简要概述如何仅使用2个隐藏层对数字进行排序?
Answers:
通过做一些研究,我发现了一篇论文,该论文证明了最多可以对3层进行排序,并且如果您将网络的大小限制为多项式,而输入数为零,则它们的解决方案是最佳的:
用于除法和相关问题的深度有效神经网络,请参见第955页的定理7(PDF中的第10页)。
我以为有人可以手动拿出砝码来准确地完成这项工作,但也许关键是要训练一个人?几个例子: