多重插补和模型选择

当您具有要估计的先验线性模型时，多重插补非常简单。但是，当您实际上要进行一些模型选择时，事情似乎有些棘手（例如，从更大的一组候选变量中找到“最佳”预测变量集-我正在特别考虑使用R的LASSO和分数多项式）。

一种想法是使模型适合具有丢失值的原始数据，然后在MI数据集中重新估计该模型，并像平常一样合并估计。但是，这似乎有问题，因为您期望出现偏差（或者为什么首先要选择MI？），这可能会导致从一开始就选择“错误的”模型。

另一个想法是要在每个MI数据集中使用任何模型选择过程-但是如果结果包含不同的变量集，您将如何合并结果呢？

我曾经想过要堆叠一组MI数据集，并将它们分析为一个大型数据集，然后将其用于拟合单个“最佳”模型，并包括随机效应以说明您对以下问题使用重复测量的事实每个观察。

听起来合理吗？还是天真地令人难以置信？任何有关此问题的指针（具有多个插补的模型选择）将不胜感激。

您可以做很多事情来从多重推算数据中选择变量，但是并不是所有的变量都能得出适当的估计值。有关各种可能性的比较，请参见Wood等人（2008）Stat Med。

我发现以下两步过程在实践中很有用。

1. 独立地将首选变量选择方法应用于估算数据集。您最终将获得m个不同的模型。对于每个变量，计算其在模型中出现的次数。选择至少出现在m个模型中一半的那些变量。$m$$m$$m$
2. 使用Wald统计量或似然比检验的p值（根据多重插补数据集计算得出）作为进一步逐步选择模型的标准。$m$

包括预选择步骤1以减少计算量。有关R中使用的两步法的代码示例，请参见http://www.stefvanbuuren.nl/mi/FIMDmaterials/src/fimd6.r.txt（第6.4.2节）mice()。在Stata中，您可以使用来执行步骤2（对所有变量）mim:stepwise。

这很简单：您可以应用标准的MI合并规则-但是在整个估算数据集中不受支持的变量影响将不那么明显。例如，如果未在特定的估算数据集中选择变量，则其估计值（包括方差）为零，这在使用多重插补时必须反映在所使用的估计中。您可以考虑采用自举法来构建置信区间以合并模型选择的不确定性，请参阅此最新出版物，该出版物解决了所有问题：http : //www.sciencedirect.com/science/article/pii/S016794731300073X

我会避免使用务实的方法，例如，如果在m / 2个数据集中选择了某个变量，或者选择了类似的变量，那么这将是不现实的，因为推断并不清晰，而且乍一看比它复杂。

我遇到了同样的问题。

我的选择是所谓的“多重插补套索”。基本上，它将所有估算的数据集组合在一起，并采用组套索的概念：每个候选变量将生成m个虚拟变量。每个虚拟变量都对应一个估算的数据集。

然后将所有m个虚拟变量分组。您要么在所有估算数据集中丢弃候选变量的m个虚拟变量，要么将其保留在所有估算数据集中。

因此套索回归实际上适合所有推算数据集。

检查纸张：

Chen Q.＆Wang，S.（2013）。“多元插补数据的变量选择及其在二恶英暴露研究中的应用”，《医学统计》，32：3646-59。

和相关的R程序

我一直面临着类似的问题-我有一个数据集，从一开始我就知道要包含所有变量（我对系数的兴趣比对预测的兴趣更大），但是我不知道先验应该指定哪些交互。

我的方法是写出一组候选模型，执行多个估算，估算多个模型，然后简单地保存和平均每个模型的AIC。选择了具有最低AIC平均值的模型规格。

我考虑过要添加一种更正，其中我会惩罚AIC中的两次输入之间的差异。然而，经过反思，这似乎毫无意义。

这种方法对我来说似乎很简单，但是我是自己发明的，而且我也不是著名的统计学家。在使用它之前，您可能希望等到人们纠正我（不客气！）或赞成这个答案。