带插入号的堆叠/组装模型

我经常发现自己使用caretR 训练了几种不同的预测模型。我将使用来在相同的交叉验证折叠上对它们进行训练caret::: createFolds，然后根据交叉验证的误差选择最佳的模型。

但是，在独立测试集上，来自多个模型的中值预测通常要优于最佳单个模型。我正在考虑编写一些用于堆叠/组装插入符模型的函数，这些函数使用相同的交叉验证折叠进行训练，例如，通过对每个折叠上的每个模型进行中位数预测，或通过训练“元模型”。

当然，这可能需要外部交叉验证循环。是否有人知道用于集成插入符号模型的任何现有软件包/开源代码（并可能对这些集成进行交叉验证）？

看起来Max Kuhn实际上已经开始为整体插入符号模型开发包装，但还没有时间完成。这正是我想要的。我希望该项目能在一天之内完成！

编辑：我编写了自己的程序包来执行此操作：caretEnsemble

您正在寻找的被称为“模型集成”。可以在这里找到带有R代码的简单入门教程：http : //viksalgorithms.blogspot.jp/2012/01/intro-to-ensemble-learning-in-r.html

我不太确定您在寻找什么，但这可能会有所帮助：http : //www.jstatsoft.org/v28/i05/paper

这是如何在插入符号中使用多个模型。您可能感兴趣的部分是pg的第5节。13