置信区间和可信区间何时重合的示例

在有关可信间隔的Wikipedia文章中，它说：

对于单个参数和可以在单个足够统计量中汇总的数据的情况，可以证明，如果未知参数是位置参数（即，前向概率函数具有以下形式），则可信区间和置信区间将重合Pr（x |μ）= f（x −μ）），先验是均匀的平坦分布； [5]并且如果未知参数是比例参数（即，前向概率函数的形式为Pr（x） | s）= f（x / s）），并带有Jeffreys的先验[5]-后者是后继的，因为采用这种比例参数的对数会将其转换为具有均匀分布的位置参数。但是，这些情况显然是特殊的（尽管很重要）。一般而言，不能做到等价。”

人们可以举一些具体的例子吗？95％CI何时真正对应于“ 95％机会”，从而“违反” CI的一般定义？

confidence-interval credible-interval

— 韦恩
source

正态分布：

采取已知方差的正态分布。我们可以将此方差设为1而不失去一般性（只需将每个观察值除以方差的平方根即可）。这具有抽样分布：

p （ X_{1个} 。 。 。 X_{ñ} | μ ） = {（ 2 π ）}^{- \frac{ñ}{2}} 经验值 （ - \frac{1个}{2} \sum_{一世 = 1个}^{ñ} （ X_{一世} - μ ）^{2} ） = 一个 经验值 （ - \frac{ñ}{2} （ \bar{X} - μ ）^{2} ）

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

其中是仅取决于数据的常数。这表明样本均值是总体均值的足够统计量。如果我们使用统一的先验，则的后验分布将是： $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

所以一个可信间隔将是以下形式： $1-\alpha$

（ \bar{X} + \frac{1个}{\sqrt{ñ}} {大号}_{α} ， \bar{X} + \frac{1个}{\sqrt{ñ}} ü_{α} ）

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

其中和被选择成使得标准正态随机变量满足： $L_{\alpha}$ $U_{\alpha}$ $Z$

P [R （ {大号}_{α} < ž < ü_{α} ） = 1个 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

现在我们可以从这个“关键量”开始构建一个置信区间。的抽样分布固定是一个标准的正态分布，因此我们可以代入上面的概率这样的： $\sqrt{N}(\mu-\overline{X})$ $\mu$

P [R （ {大号}_{α} < \sqrt{ñ} （ μ - \bar{X} ） < ü_{α} ） = 1个 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

然后重新排列以求解，并且置信区间将与可信区间相同。 $\mu$

比例参数：

为比例参数，PDF文件具有形式。我们可以采取，其对应于。联合采样分布为： $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p （ X_{1个} 。 。 。 X_{ñ} | s ） = s^{- ñ} 0 < X_{1个} 。 。 。 X_{ñ} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

从中我们发现足够的统计量等于（观测值的最大值）。现在，我们找到其采样分布： $X_{max}$

P [R （ X_{米 一个 X} < ÿ | s ） = P [R （ X_{1个} < ÿ ， X_{2} < ÿ 。 。 。 X_{ñ} < ÿ | s ） = {（ \frac{ÿ}{s} ）}^{ñ}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

现在我们可以通过使它独立于参数。这意味着我们的“枢转量”由下式给出与其是分布。因此，我们可以选择使用的β分位数这样的： $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P [R （ {大号}_{α} < 问 < ü_{α} ） = 1个 - α = ü_{α}^{ñ} - {大号}_{α}^{ñ}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

我们用关键量代替：

P [R （ {大号}_{α} < s^{- 1个} X_{米 一个 X} < ü_{α} ） = 1个 - α = P [R （ X_{米 一个 X} {大号}_{α}^{- 1个} > s > X_{米 一个 X} ü_{α}^{- 1个} ）

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

还有我们的置信区间。对于使用jeffreys的贝叶斯解决方案，我们有：

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

现在我们插入置信区间，并计算其可信度

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

和急，我们有信誉和覆盖面。 $1-\alpha$

— 概率逻辑
source

杰作，谢谢！我希望可能会有一个答案，例如“从正态分布计算样本均值时，95％CI实际上也是95％可信区间”或类似的答案。（只是弥补了这个假定的答案，我对具体的例子

— 韦恩（Wayne

我相信，常客的95％预测/容差区间对应于具有OLS回归和正常误差的贝叶斯预测区间。看起来是这样，无论如何，当我将predict.lm的答案与模拟的答案进行比较时。真的吗？

— 韦恩

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

十分感谢！我一直在尝试针对置信区间对我所做的回归进行解释的配置项，它根本与希望获得可信区间的外行听众无关。使我的生活更加轻松……尽管这可能对整个统计领域不利，因为这将加剧外行对CI的误解。

— 韦恩

@Wayne-这种情况比地点规模的家庭要普遍得多。如果配置项基于存在的“足够的统计量”（就像这两个），通常，配置项将等效于可信区间。如果没有足够的统计信息，则CI需要以所谓的“辅助统计信息”为条件，以进行可靠的区间解释。

— 概率