Questions tagged «neural-networks»

我一直在学习神经网络和SVM。我阅读的教程强调了内核化对于SVM的重要性。没有内核功能，SVM只是线性分类器。通过内核化，SVM还可以合并非线性功能，这使它们成为更强大的分类器。 在我看来，也可以将内核化应用于神经网络，但是我见过的神经网络教程都没有提到这一点。人们通常在神经网络中使用内核技巧吗？我认为一定有人尝试过它，看看它是否有很大的不同。内核化对神经网络的帮助与对SVM的帮助一样吗？为什么或者为什么不？ （我可以想像几种将核技巧整合到神经网络中的方法。一种方法是使用合适的核函数将输入（的向量）预处理为高维输入，R m中的向量对m ≥ ñ。对于多层神经网络，另一种方法是在神经网络的每个级别应用内核函数。）RnRn\mathbb{R}^nRmRm\mathbb{R}^{m}m≥nm≥nm\ge n

9 machine-learning  artificial-intelligence  neural-networks 

为什么神经网络的初始权重被初始化为随机数？我在某处读过，这样做是为了“打破对称性”，这使神经网络学习得更快。如何打破对称性使其学习更快？ 将权重初始化为0会不是一个更好的主意？这样，权重就能更快地找到其值（正负）。 除了希望权重在初始化时会接近最佳值之外，还有其他一些潜在的基本哲学吗？

9 machine-learning  artificial-intelligence  neural-networks 

可以用map-reduce运算来表达人工神经网络算法吗？我还更一般地对应用于ANN的并行化方法及其在云计算中的应用感兴趣。 我认为一种方法将涉及在每个节点上运行完整的ANN并以某种方式集成结果以便将网格像单个实体一样对待（就输入/输出和机器学习特性而言）。即使在这种情况下，我也很好奇这样的整合策略可能会是什么样子。

9 parallel-computing  artificial-intelligence  neural-networks