Answers:
哇,真是个大问题!答案的简短形式是,仅因为您可以使用图表上相似的视觉表示形式来表示两个模型,但这并不意味着它们甚至在结构,功能或哲学上都遥遥相关。我不熟悉FCM或NF,但可以与其他人交谈。
贝叶斯网络
在贝叶斯网络中,图形表示模型中不同变量的条件相关性。每个节点代表一个变量,每个有向边代表一个条件关系。本质上,图形模型是链规则的可视化。
神经网络
在神经网络中,每个节点都是一个模拟的“神经元”。神经元实质上是开或关,其激活由网络的先前“层”中每个输出的值的线性组合确定。
决策树
假设我们使用决策树进行分类。该树从本质上为我们提供了描述应如何对观察结果进行分类的流程图。我们从树的根部开始,最终到达的叶确定了我们预测的分类。
如您所见,这三个模型除了可以用方框和箭头表示之外,基本上根本没有任何关系。
很容易证明(参见Daphne Koller的课程),逻辑回归是条件随机字段的受限版本,它是无向图形模型,而贝叶斯网络是有向图形模型。然后,逻辑回归也可以看作是单层感知器。我认为这是贝叶斯网络和神经网络之间唯一的联系(非常松散)。
我尚未找到您询问的其他概念之间的链接。
首先,我们试图说明试图通过这些方法解决的问题的性质。如果问题很简单(多项式或NP完整),我们已经准备好通过将公理沿着逻辑规则进行简单组合来插入可以提供确定性答案的算法。但是,如果不是这种情况,我们将不得不依靠一种推理方法,其中,我们尝试将问题视为异构问题并将其插入网络,节点是评估,边缘是组件之间的路径。 。
在任何一种基于网络的推理中,我们都不会根据线性流中的逻辑规则,通过使用抽象概括和组合来进行演绎推理,而是解决基于不同方向上的推理传播的问题,从而解决一次在一个节点上出现问题,可以在以后发现与任何节点有关的新事实时进行改进。现在让我们看看这些技术中的每一种如何以自己的方式来解决问题。
神经网络: 神经网络是一个黑匣子,人们相信(永远无法从系统外部验证)简单节点之间的连接是通过反复的外部增强而形成和强调的。它以Connectionsitic范式处理该问题。该问题可能已经解决,但是几乎没有解释性的方式。现在,由于忽视了解释性问题,神经网络能够快速产生结果,因此被广泛使用。
贝叶斯网络: 贝叶斯网络是一个有向无环图,它更像流程图,只是流程图可以具有循环回路。与流程图不同,贝叶斯网络可以有多个起点。它基本上跟踪了事件在多个歧义点之间的传播,其中事件在路径之间的概率差异很大。显然,在网络中的任何给定点,该节点被访问的概率取决于先前节点的联合概率。贝叶斯网络与神经网络的不同之处在于,它是显式推理,即使是概率性的,因此也可以基于每个步骤在合法值内重新访问和修改,从而具有多个稳定状态,就像算法一样。这是一种可靠的概率推理方法,但是它涉及概率的编码,
决策树: 决策树还是一个网络,更像流程图,它比神经网络更接近贝叶斯网络。每个节点比神经网络具有更多的智能,可以通过数学或概率评估来确定分支。这些决策是基于可能发生的事件的频率分布的简单评估,其中决策是概率性的。但是,在贝叶斯网络中,该决定基于指向事件已发生的“证据”的分布,而不是事件本身的直接观察。
举例 例如,如果我们要预测一只食人虎在喜马拉雅山某些村庄中的移动,而该村庄恰好在某些老虎保护区的边缘,则可以采用以下两种方法对它进行建模:
在决策树中,我们将依靠专家估计,是老虎会在开阔田野之间做出选择,还是河流会在后者上做出选择。在贝叶斯网络中,我们通过哈巴狗痕迹追踪老虎,但其推理方式承认这些哈巴狗痕迹可能是常规巡逻其领土的某些其他类似大小的老虎的痕迹。如果要使用神经网络,则通常必须使用老虎的各种行为特征来反复训练模型,例如其对游泳的偏爱,对开阔地域的偏爱,对开阔地带的偏爱,避免人类居住的环境,以便允许网络在老虎可能采取的整个过程中进行推理。