贝叶斯网络在任何方面都胜过神经网络吗？

在计算机视觉任务中，神经网络获得了最高的结果（请参见MNIST，ILSVRC，Kaggle Galaxy Challenge）。它们似乎比“计算机视觉”中的所有其他方法都要好。但是，还有其他任务：

• Kaggle分子活性挑战
• 回归：Kaggle Rain预测，也是第二名
• 握住并举起第二名，也获得第三名 -从EEG录音中识别手部动作

我对ASR（自动语音识别）和机器翻译不太确定，但我想我还听说过（递归）神经网络（开始）胜过其他方法。

我目前正在学习贝叶斯网络，我想知道在哪些情况下通常会使用这些模型。所以我的问题是：

在贝叶斯网络或至少非常相似的模型方面，是否存在任何挑战/（竞争）竞争？

（附注：我也看到了决策树，2，3，4，5，6，7胜在最近的几Kaggle挑战）

贝叶斯方法经常被使用的领域之一是需要预测系统的可解释性。您不想给医生一个神经网络，说它是95％准确的。您宁愿解释您的方法所做的假设以及该方法使用的决策过程。

类似的领域是您具有很强的先验领域知识并想在系统中使用它。

贝叶斯网络和神经网络不是彼此排斥的。实际上，贝叶斯网络只是“定向图形模型”的另一个术语。它们在设计目标函数神经网络时非常有用。Yann Lecun在这里指出了这一点：https : //plus.google.com/+YannLeCunPhD/posts/gWE7Jca3Zoq。

一个例子。

已经很好的答案。

我可以想到并且正在广泛使用的一个领域是客户分析领域。

为了通知和警告客户支持，营销和成长团队，我必须了解并预测客户的举动和动机。

因此，在这里，神经网络在用户流失预测等方面做得非常好。但是，我发现并喜欢贝叶斯网络风格，这是我们偏爱它的原因：

1. 客户总是有模式的。他们总是有一个原因行动。这就是我的团队为他们所做的事情，或者他们已经学会了。因此，这里的一切都具有先验性，事实上，原因非常重要，因为它推动了客户做出的大多数决定。
2. 客户和增长团队在营销/销售漏斗中的一举一动都是因果关系。因此，在将潜在客户转化为客户方面，先验知识至关重要。

因此，在涉及客户分析时，先验的概念非常重要，这使得贝叶斯网络的概念对该领域非常重要。

建议学习：

神经网络的贝叶斯方法

商业分析中的贝叶斯网络

有时，您与更改结果一样在乎预测结果。

具有足够训练数据的神经网络将倾向于更好地预测结果，但是一旦您可以预测结果，则可能希望预测输入特征发生变化对结果的影响。

现实生活中的一个例子很重要，那就是知道某人可能会心脏病发作，但是能够告诉该人，如果他们停止做XX，则风险会降低30％。

同样对于客户保留而言，知道为什么客户停止与您购物的价值与预测可能停止与您购物的客户一样有价值。

同样，较简单的贝叶斯网络预测的效果较差，但会导致采取更多的措施，通常可能比更“正确”的贝叶斯网络更好。

贝叶斯网络相对于神经网络的最大优势在于，它们可用于因果推理。该分支对于统计和机器学习至关重要，并且Judea Pearl 因这项研究而获得了图灵奖。

在小数据设置下，贝叶斯网络可能会优于神经网络。如果先验信息是通过网络结构，先验信息和其他超参数正确管理的，则它在神经网络上可能具有优势。众所周知，神经网络，尤其是具有更多层的神经网络，数据匮乏。根据定义，几乎所有数据都是正确训练它们所必需的。

我已经在Reddit上发布了此链接，并获得了很多反馈。有些人在这里发布了答案，其他人没有。这个答案应该总结reddit的帖子。（我把它做成社区维基，所以我没有得到分数）

• 自动编码变分贝叶斯是贝叶斯网络和神经网络的组合。本文贝叶斯卷积神经网络伯努利近似变推理似乎在同一个方向走。
• 辍学：防止神经网络过度拟合的简单方法就是贝叶斯神经网络胜过其辍学方法的示例（请参见第6.4节“与贝叶斯神经网络进行比较”）
• 通过概率性程序归纳进行的人类级概念学习是“在贝叶斯网络网络上进行的一键分类，其性能优于神经网络的论文”（根据rashacount12345-我目前尚未对此进行检查）。
• Yann LeCun在Google+上发表了一篇文章，他认为神经网络和概率图形模型不是正交的概念。

对于基因组解释，优选贝叶斯网络。参见，例如，本论文讨论了用于基因组解释的计算方法。

我为此做了一个小例子。由此看来，如果您想捕获分布，但我认为贝叶斯网络是首选，但您的输入训练集不能很好地覆盖该分布。在这种情况下，即使泛化得很好的神经网络也无法重构分布。

我坚决不同意神经网络比其他学习者做得更好。实际上，与其他方法相比，神经网络的表现非常糟糕。尽管在选择参数方面有一些建议，但这种方法还是没有方法，这种选择是很偶然的。也有一些花花公子在论坛上随机谈论神经网络的性能如何，不是因为他们有关于神经网络的证据，而是因为他们对花哨和时髦的词``神经''很感兴趣。它们也非常不稳定，您是否尝试过将神经网络与xgboost进行比较？我不会尝试任何神经网络，直到它变得自觉。