好的，这是一个让我彻夜难眠的问题。

引导程序是否可以解释为近似某些贝叶斯程序（贝叶斯引导程序除外）？

我真的很喜欢贝叶斯统计的“解释”，我发现它很好地连贯并且易于理解。但是，我的引导程序过程也有一个缺点，它很简单，但是在许多情况下却提供了合理的推断。但是，如果我知道引导程序在某种意义上近似于后验分布，我将对引导更加满意。

我知道“贝叶斯引导程序”（Rubin，1981年），但是从我的角度来看，引导程序的版本与标准引导程序一样有问题。问题是在进行经典和贝叶斯自举时，您所做的模型假设非常特殊，也就是说，分布的可能值只是我已经看到的值。这些奇怪的模型假设如何仍能产生引导程序产生的非常合理的推论？我一直在寻找研究引导程序属性的文章（例如Weng，1989年），但没有找到任何令我满意的明确解释。

参考文献

唐纳德·鲁宾（1981）。贝叶斯引导程序。 安 统计员。第9卷第1期，第130-134页。

翁中星（1989）。贝叶斯Bootstrap均值的二阶渐近性质。 统计年鉴，卷。第17卷，第2期，第705-710页。

Hastie，Tibshirani和Friedman撰写的《统计学习的要素》第8.4节是“自举和贝叶斯推理之间的关系”。那可能正是您想要的。我相信这本书可以通过斯坦福大学的网站免费获得，尽管我手边没有链接。

编辑：

这是该书的链接，作者可以在网上免费获得该书：

http://www-stat.stanford.edu/~tibs/ElemStatLearn/

在页272，作者写道：

从这个意义上讲，自举分布表示参数的（近似）非参数，非信息后验分布。但是，这种引导分布很容易获得-无需正式指定先验分布，也不必从后验分布中取样。因此，我们可能会认为引导分布是“穷人”的贝叶斯后验。通过扰动数据，引导程序近似于扰动参数的贝叶斯效应，并且通常更容易执行。

在这个经过交叉验证的问题中，发现了另外一个难题，其中提到了Dvoretzky–Kiefer–Wolfowitz不等式，“显示经验分布函数均匀地收敛到概率的指数分布均匀的真实分布函数”。

因此，所有非参数引导程序都可以看作是一种渐近方法，可为我们的参数生成“（近似）非参数，非信息后验分布”，并且随着样本数量的增加，这种近似会变得“指数快速”。

这是我看过的有关该主题的最新论文：

@article{efr13bay,
author={Efron, Bradley},
title={Bayesian inference and the parametric bootstrap},
journal={Annals of Applied Statistics},
volume=6,
number=4,
pages={1971-1997},
year=2012,
doi={10.1214/12-AOAS571},
abstract={Summary: The parametric bootstrap can be used for the efficient
    computation of Bayes posterior distributions. Importance sampling formulas
    take on an easy form relating to the deviance in exponential families and
    are particularly simple starting from Jeffreys invariant prior. Because of
    the i.i.d. nature of bootstrap sampling, familiar formulas describe the
    computational accuracy of the Bayes estimates. Besides computational
    methods, the theory provides a connection between Bayesian and frequentist
    analysis. Efficient algorithms for the frequentist accuracy of Bayesian
    inferences are developed and demonstrated in a model selection example.},
keywords={Jeffreys prior; exponential families; deviance; generalized linear
    models},
classmath={*62F15 (Bayesian inference)
62F40 (Resampling methods)
62J12 (Generalized linear models)
65C60 (Computational problems in statistics)}}

自举和贝叶斯定理也吸引了我，但是直到我从贝叶斯的角度来看它时，我对自举的理由并没有多大意义。然后-正如我在下面解释的-引导分布可以看作是贝叶斯后验分布，这使得自举背后的（a？）基本原理显而易见，并且还具有澄清所作假设的优势。下文的论点和假设的更多信息，请参见https://arxiv.org/abs/1803.06214（第22-26页）。

例如，在电子表格上的http://woodm.myweb.port.ac.uk/SL/resample.xlsx上进行了设置（单击屏幕底部的bootstrap选项卡），假设我们已经9个测量值的样本，平均值为60。当我使用电子表格生成1000个重采样并用该样本替换时，将均值四舍五入到最接近的偶数，其中82个均值为54。自举的想法是使用样本作为“假装”总体，以查看9的样本均值可能有多大的变化，因此，这表明样本均值比总体均值低6的概率（在这种情况下，基于平均值为60）的样本为8.2％。关于重采样直方图中的其他条形，我们可以得出类似的结论。

现在让我们想象一下，事实是实际总体的平均值为66。如果是这样，我们对样本平均值为60（即数据）的概率的估计为8.2％（使用上面段落中的结论， 60比假设的人口平均值66低6）。让我们这样写

P（给定平均值= 66的数据）= 8.2％

并且此概率对应于重采样分布上的x值54。相同的论点适用于0、2、4 ... 100中的每个可能的总体均值。在每种情况下，概率均来自重采样分布-但是此分布反映了均值60。

现在，我们应用贝叶斯定理。有问题的度量只能取0到100之间的值，因此将四舍五入到最接近的偶数可能会导致总体平均值为0、2、4、6，.... 100。如果我们假设先验分布是平坦的，则每个都具有2％（至1 dp）的先验概率，贝叶斯定理告诉我们

P（PopMean =给定数据66）= 8.2％* 2％/ P（数据）

哪里

P（数据）= P（PopMean = 0给定数据）* 2％+ P（PopMean = 2给定数据）* 2％+ ... + P（PopMean = 100给定数据）* 2％

现在我们可以取消2％，并记住概率之和必须为1，因为这些概率只是来自重采样分布的概率。得出的结论是

P（均值= 66）= 8.2％

记住8.2％是来自对应于54（而不是66）的重采样分布的概率，后验分布只是反映在样本均值上的重采样分布（60）。此外，如果重新采样分布在不对称是随机的意义上是对称的-在这种情况下以及许多其他情况下，我们可以将重新采样分布视为与后验概率分布相同。

这一论点做出了各种假设，主要假设是先验分布是均匀的。这些在上面引用的文章中有更详细的说明。