基于“结构化风险最小化”的机器学习算法?


Answers:


8

结构风险最小化原则是在所有机器学习方法中至少部分“使用”的原则,因为通常会考虑过度拟合:降低模型的复杂性(假设和在实践中)是一种很好的限制方法过度拟合。

  • SVM明确具有复杂性的参数(特征空间的维数,甚至是内核函数),这是必需的,因为增加复杂度是学习算法的一部分。

  • 神经元网络也可以很容易地指示其复杂性(“细胞”的数量),并且是相关学习算法的一部分。

  • 没有这个原理,语法推断既是愚蠢的,也是完美语法,它是所有可能单词的列表,因此,每个非平凡的算法至少都承认这一原理。

  • 决策树有自己的熵概念

  • 可以简单地对群集进行计数,或者可以固有地“使用”该原理,可以具有固定数量的群集,在这种情况下,可以在更高级别上应用该原理。

老实说,我真的不知道基因编程会发生什么,但是他们没有内在的复杂性概念。

我不太了解归纳逻辑编程,但是它似乎不能很好地适应该原理。


您是否知道有任何学习算法比SVM更强大且更不适合过度拟合?还是一种改进标准SVM的技术?
Classifire

@ user2278如果用“强大”来表示“有效”,则SVM很棒,并且有很多有关它和使用它的工具研究。但是,当然,这取决于您的问题。
jmad 2012年

好吧,我想在金融市场上使用SVM,实际上有很多关于该主题的论文(使用SVM进行股票预测等)。是否有一种算法更适合于此目的(尤其是由于财务时间序列是如此“嘈杂”)?
Classifire

@ user2278您最好使用这些文件。我不是专家。(我不会感到惊讶的是,SVM对此是最好的。而且它们在噪音方面也表现良好)
jmad 2012年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.