是什么使神经网络如此擅长预测?


12

我是神经网络的新手,我试图从数学上理解是什么使神经网络非常擅长分类问题。

以一个小型神经网络为例(例如,一个具有2个输入,2个隐藏层节点和2个输出节点)的神经网络,您所拥有的只是一个复杂的函数,在线性组合上大部分为S形乙状结肠。

那么,这如何使他们擅长预测?最终函数会导致某种曲线拟合吗?

Answers:


6

神经网络擅长分类。在某些情况下,这取决于预测,但不一定如此。

神经网络擅长分类的数学原因是普遍逼近定理。其中指出,神经网络可以在紧凑子集上近似任何连续的实值函数。近似的质量取决于神经元的数量。还已经表明,将神经元添加到附加层中而不是将它们添加到现有层中可以更快地提高近似质量。

除此之外,反向传播算法的有效性尚未得到很好的理解,您可以进行设置,然后才能真正学习UAT承诺的功能或其他功能。


0

在神经网络中,我们考虑高维的所有事物,并尝试找到通过小变化对其进行分类的超平面...

可能很难证明它是可行的,但是直觉表明如果可以对其进行分类,则可以通过添加一个宽松的平面并让其在数据中移动以找到局部最优值来实现。


0

使用神经网络,您可以简单地对数据进行分类。如果分类正确,则可以将来进行分类。

这个怎么运作?

像Perceptron这样的简单神经网络可以绘制一个决策边界,以便对数据进行分类。

例如,假设您要使用简单的神经网络解决简单的AND问题。您有4个样本数据包含x1和x2,权重向量包含w1和w2。假设初始权向量为[0 0]。如果您进行计算取决于NN算法。最后,您应该有一个权重向量[1 1]或类似的东西。

在此处输入图片说明

请专注于图形。

它说:我可以将输入值分为两类(0和1)。好。那我该怎么办呢?这太简单了。第一和输入值(x1和x2)。

0 + 0 = 0

0 + 1 = 1

1 + 0 = 1

1 + 1 = 2

它说:

如果sum <1.5,则其类别为0

如果sum> 1.5,则其类别为1


0

神经网络擅长各种任务,但是要确切了解原因,选择分类和深入研究可能更容易。

简单来说,机器学习技术会根据过去的示例学习一种功能,以预测特定输入所属的类。使神经网络与众不同的是它们构建这些功能的能力,这些功能甚至可以解释数据中的复杂模式。神经网络的核心是像Relu这样的激活函数,它可以绘制一些基本的分类边界,例如:Relu的示例分类边界

通过将数百个这样的Relus组合在一起,神经网络可以创建任意复杂的分类边界,例如:在此处输入图片说明

在本文中,我试图解释使神经网络起作用的背后的直觉:https//medium.com/machine-intelligence-report/how-do-neural-networks-work-57d1ab5337ce

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.