可信区域和贝叶斯假设检验之间有什么联系？

38

在常客统计中，置信区间和检验之间存在紧密的联系。使用推理约在分布作为一个例子，将置信区间包含在重要性级别上未被检验拒绝的所有值。 $\mu$ $\rm N(\mu,\sigma^2)$ $1-\alpha$

\bar{x} \pm t_{α / 2} (n - 1) \cdot s / \sqrt{n}

$\bar{x}\pm t_{\alpha/2}(n-1)\cdot s/\sqrt{n}$

μ

$\mu$

t

$t$

α

$\alpha$

从这个意义上讲，频繁的置信区间是倒置测试。（顺便说一句，这意味着我们可以将值解释为的最小值，为此参数的空值将包含在置信区间中。我发现这可能是一种有用的方法，向了解一些统计信息的人解释真正含义。） $p$ $\alpha$ $1-\alpha$ $p$

在阅读了贝叶斯可信区域的决策理论基础后，我开始怀疑可信区域与贝叶斯测试之间是否存在类似的联系/对等关系。

有一般的联系吗？
如果没有常规连接，是否存在连接的示例？
如果没有一般的联系，我们怎么看？

— 曼斯
source

我一直想知道的一个相关问题-有人可以将我认为是他们认为是用于实际问题的贝叶斯假设检验的“金标准”或“规范示例”，而不是玩具示例的论文指向我。我从来没有真正理解过贝叶斯假设检验，我想我会找到一个很好的例子来说明其用法。

— Patrick Caldon 2012年

2

@PatrickCaldon我怀疑对此有一个“黄金论文”，因为贝叶斯假设检验是在决策理论框架中制定的（因此它太宽泛而无法在一篇论文中介绍）。MånsT的答案中提到的书提供了很好的素材，Berger的书和演讲也许也很有趣。

我相信本文ba.stat.cmu.edu/vol03is01.php可以澄清我们在此处的大部分讨论。

— 卡洛斯·

谢谢@Carlos！该链接目前似乎不起作用，但我想它会导致您在Stern和Wechsler的Bayesian Analysis中发表您的2008年论文。我发现这很有趣！

— MånsT

尊敬的MånsT：贝叶斯分析移至Euclid项目。卡洛斯教授纸是在这里：projecteuclid.org/...

— 禅

19

我设法提出了一个存在连接的示例。不过，这似乎很大程度上取决于我对损失函数的选择以及复合假设的使用。

我从一个一般的例子开始，然后是一个涉及正态分布的简单特殊情况。

一般例子

对于未知参数，令为参数空间，并考虑假设与替代项。 $\theta$ $\Theta$ $\theta\in\Theta_0$ $\theta\in\Theta_1=\Theta\backslash\Theta_0$

令为测试函数，使用西安的“贝叶斯选择 ”中的表示法（这至少是我至少惯用的一种），因此如果则拒绝并接受如果。考虑损失函数然后，贝叶斯检验为 $\varphi$ $\Theta_0$ $\varphi=0$ $\Theta_0$ $\varphi=1$

L (θ, φ) = {\begin{cases} 0, & if φ = I_{Θ_{0}} (θ) \\ a_{0}, & if θ \in Θ_{0} and φ = 0 \\ a_{1}, & if θ \in Θ_{1} and φ = 1. \end{cases}

$L(\theta,\varphi) = \begin{cases} 0, & \mbox{if } \varphi=\mathbb{I}_{\Theta_0}(\theta) \\ a_0, & \mbox{if } \theta\in\Theta_0 \mbox{ and }\varphi=0\\ a_1, & \mbox{if } \theta\in\Theta_1 \mbox{ and }\varphi=1. \end{cases}$

φ^{π} (x) = 1 i f P (θ \in Θ_{0} | x) \geq a_{1} (a_{0} + a_{1})^{- 1} .

$\varphi^\pi(x)=1\quad \rm if\quad P(\theta\in\Theta_0|x)\geq a_1(a_0+a_1)^{-1}.$

取和。如果则接受零假设。 $a_0=\alpha\leq 0.5$ $a_1=1-\alpha$ $\Theta_0$ $\rm P(\theta\in\Theta_0|x)\geq 1-\alpha$

现在，可信区域是这样的区域，即。因此，根据定义，如果使得，可以是可信的区域仅当。 $\Theta_c$ $\rm P(\Theta_c|x)\geq 1-\alpha$ $\Theta_0$ $\rm P(\theta\in\Theta_0|x)\geq 1-\alpha$ $\Theta_c$ $\rm P(\Theta_0\cap\Theta_c|x)>0$

如果只有我们接受零假设每 -credible区域中包含的非空集。 $1-\alpha$ $\Theta_0$

一个更简单的特殊情况

为了更好地说明上述示例中的测试类型，请考虑以下特殊情况。

让与。设置，和，以便我们测试是否。 $x\sim \rm N(\theta,1)$ $\theta\sim \rm N(0,1)$ $\Theta=\mathbb{R}$ $\Theta_0=(-\infty,0]$ $\Theta_1=(0,\infty)$ $\theta\leq 0$

标准计算得出其中是标准普通cdf。

P (θ \leq 0 | x) = Φ (- x / \sqrt{2}),

$\rm P(\theta\leq 0|x)=\Phi(-x/\sqrt{2}),$

Φ (\cdot)

$\Phi(\cdot)$

令等于。当时，接受。 $z_{1-\alpha}$ $\Phi(z_{1-\alpha})=1-\alpha$ $\Theta_0$ $-x/\sqrt{2}>z_{1-\alpha}$

这等效于在对于，当时，被拒绝。 $x\leq \sqrt{2}z_{\alpha}.$ $\alpha=0.05$ $\Theta_0$ $x>-2.33$

如果改为使用先前的，则当时，被拒绝。 $\theta\sim \rm N(\nu,1)$ $\Theta_0$ $x>-2.33-\nu$

当为“ small”（例如）时，Pereira-Stern检验拒绝。对于单峰后验，这意味着在后验的尾部很远，这使得该准则有点类似于使用p值。换句话说，当且仅当不包含在 HPD区域中时，才以级别拒绝。 $\Theta_0$ $P(\theta\notin T(x)|x)$ $<0.05$ $\theta_0$ $\Theta_0$ $5~\%$ $95~\%$

让测试功能是，如果被接受和如果被拒绝。Madruga等。提出了损失函数 with。 $\varphi$ $1$ $\Theta_0$ $0$ $\Theta_0$

L (θ, φ, x) = {\begin{cases} a (1 - I (θ \in T (x)), & if φ (x) = 0 \\ b + c I (θ \in (T (x)), & if φ (x) = 1, \end{cases}

$L(\theta,\varphi,x) = \begin{cases} a(1-\mathbb{I}(\theta\in T(x)), & \mbox{if } \varphi(x)=0 \\ b+c\mathbb{I}(\theta\in(T(x)), & \mbox{if } \varphi(x)=1, \end{cases}$

a, b, c > 0

$a,b,c>0$

如果，则将期望损失最小化会导致Pereira-Stern检验，其中被拒绝 $\Theta_0$ $P(\theta\notin T(x)|x)<(b+c)/(a+c).$

到目前为止，一切都很好。Pereira-Stern检验等效于检查是否在HPD区域中，并且是否有损失函数生成该检验，这意味着它是基于决策理论建立的。 $\theta_0$

尽管有争议的部分是损失函数取决于 $x$ 。尽管这样的损失函数已经在文献中出现过几次，但似乎并不被认为是非常合理的。

有关此主题的更多信息，请参见引用Madruga等人的论文列表。文章。

2012年10月更新：

我对上述损失函数并不完全满意，因为它对依赖使决策比我想要的更加主观。我花了更多时间思考这个问题，最后写了一个简短的说明，今天早些时候发布在arXiv上。 $x$

让表示的后位数功能，使得。代替HPD集，我们考虑中心（等尾）间隔。可以在决策理论框架中证明使用此间隔测试是正确的，而无需依赖的损失函数。 $q_{\alpha}(\theta|x)$ $\theta$ $P(\theta\leq q_{\alpha}(\theta|x))=\alpha$ $(q_{\alpha/2}(\theta|x),q_{1-\alpha/2}(\theta|x))$ $\Theta_0$ $x$

诀窍是将点零假设的问题重新为具有方向性结论的三决策问题。然后对两种测试和。 $\Theta_0=\{\theta_0\}$ $\Theta_0$ $\Theta_{-1}=\{\theta:\theta<\theta_0\}$ $\Theta_{1}=\{\theta:\theta>\theta_0\}$

如果我们接受则让测试函数（请注意，该表示法与上面使用的相反！）。事实证明，在加权损失函数贝叶斯测试是如果不在中心区间，则拒绝。 $\varphi=i$ $\Theta_i$ $0-1$

L_{2} (θ, φ) = {\begin{cases} 0, & if θ \in Θ_{i} and φ = i, i \in {- 1, 0, 1}, \\ α / 2, & if θ \notin Θ_{0} and φ = 0, \\ 1, & if θ \in Θ_{i} \cup Θ_{0} and φ = - i, i \in {- 1, 1}, \end{cases}

$L_2(\theta,\varphi) = \begin{cases} 0, & \mbox{if } \theta\in\Theta_i\mbox{ and }\varphi=i, \quad i\in \{-1,0,1\}, \\ \alpha/2, & \mbox{if } \theta\notin\Theta_0 \mbox{ and }\varphi=0,\\ 1, & \mbox{if } \theta\in\Theta_{i}\cup\Theta_0 \mbox{ and }\varphi=-i,\quad i\in\{-1,1\},\end{cases}$

Θ_{0}

$\Theta_0$

θ_{0}

$\theta_0$

对我来说，这似乎是一个相当合理的损失函数。我在arXiv的手稿中进一步讨论了这种损失，Madruga-Esteves-Wechsler损失以及使用可信集进行测试。

— MånsT
source

2

（我这标志着作为一个社区的wiki）

— MånsT

当您说“要进行Pereira-Stern检验时，我们必须使预期的后路损失最小化”，实际上，我们在任何贝叶斯决策程序中都这样做。此处的区别在于损失函数取决于数据（如您所指出的），这不是标准的。通常我们有。

L : {P a r a m e t e r S p a c e} \times {A c t i o n s} \to R

$L : \{Parameter\; Space\} \times \{Actions\} \to \mathbb{R}$

— 2012年

@禅：是的，我当然说错了。感谢您指出了这一点。:)

— MånsT

3

@MånsT：（+1）这是一个有趣的答案。我非常尊重您在这种情况下选择将其标记为CW的事实，但我希望您不会。:-)

— 红衣主教

8

在碰到这个问题之前，我碰巧阅读了您的arXiv论文，并且已经在上面写了一篇博客文章（计划于08年10月出现）。综上所述，我发现您对理论感兴趣，但也认为它太虚构而不值得推荐，尤其是。因为它似乎无法解决零位假设贝叶斯测试问题，因此传统上需要将一些先验质量放在零位参数值上。

综上所述，您上面提出的解决方案（在10月更新中）以及arXiv论文中的定理2 都不是有效的测试过程，因为采用三个值，而不是对应于接受/拒绝的两个值。同样，您在定理3中使用的损失函数（此处未复制）等同于检验单面假设，而不是点零假设。 $\varphi$ $H_0: \theta\le\theta_0$ $H_0: \theta= \theta_0$

但是，我的主要问题是，在我看来，当是点零假设时，即且没有先验质量时，arXiv论文中的定理3和定理4 都无效。 $H_0$ $\Theta_0=\{\theta_0\}$

— 西安
source

1

感谢（+1）您的评论！我非常期待阅读您的博客文章。:)正如您所指出的那样，定理3和定理4仅与复合假设有关。定理2中的 2是错印。它应该读为，在这种情况下，当时，当为在可信区间内。我将尽快在arXiv手稿中进行更改！

1 - α / 2

$1-\alpha/2$

α / 2

$\alpha/2$

φ = 0

$\varphi=0$

α / 2 < min (P (Θ_{- 1}), P (Θ_{1}))

$\alpha/2<\mbox{min}(P(\Theta_{-1}),P(\Theta_1))$

θ_{0}

$\theta_0$

— MånsT

您是对的（+1！），我在想不平等！在arXiv文档中，中心不平等是用错误的方式写的。即，一个人应该接受 iff

H_{0}

$H_0$

— 西安，

很高兴听到:)更新的手稿（修正了Thm 2）将在星期一在arXiv上发布。我将假设在Thm 4中是点空的。

Θ_{0}

$\Theta_0$

— MånsT

1

只需确保在arXiv文档中阐明定理2的证明即可：显示的不等式是用错误的方式编写的。即一个人应该接受 iff，而不是相反！

H_{0}

$H_0$

P (θ \in Θ_{i} | x) > α / 2

$P(\theta\in\Theta_i|x)>\alpha/2$

— 西安

3

您可以将可信区间（或HPD区域）用于贝叶斯假设检验。我不认为这很普遍。不过，公平地说，我看不到太多东西，也没有在实践中使用正式的贝叶斯假设检验。在假设检验的建立过程中，偶尔会使用贝叶斯因数（在罗伯特的“贝叶斯核心”中受到称赞）。

— 弗赖乔
source

1

干杯@Fraijo！您能否详细说明一下您的答案与Michael Chernick的答案有何不同？

— MånsT

2

我认为使用贝叶斯因子检验假设不是“偶然的”，例如请参阅此参考资料。

@MånsT在迈克尔描述的后续过程中似乎是贝叶斯因子测试。本质上，您基于假设创建了两个具有不同先验的模型，然后根据这些先验比较数据集的概率。Procrasinator发布的参考资料对此进行了快速回顾。

— Fraijo 2012年

1

@Procrastinator之所以说偶尔是因为在我的行业中，很少有人使用贝叶斯方法，更不用说使用贝叶斯方法来检验假设了。我个人使用贝叶斯因子检查模型对先验的敏感性，我认为这是假设检验的一种形式。

— Fraijo 2012年

1

@MånsT简短答案：不。设置一个可信区间并找出它是否包含无效假设是唯一与频度假设检验相当的直接检验。此方法有两个问题：1）很明显的事实是，在某些情况下您可以找到多个区域（例如，HPD与对称区域），以及2）测试点假设（theta = a）与贝叶斯理想参数冲突取分布（theta〜P（theta））。

— Fraijo 2012年

1

可信区域就是这样一个区域，在该区域中后方密度的积分是一个指定的概率，例如0.95。形成贝叶斯假设检验的一种方法是查看参数的空假设值是否落在可信区域内。这样，我们就可以在假设检验和可信区域之间获得相似的1-1对应关系，就像常客对置信区间和假设检验所做的那样。但这不是进行假设检验的唯一方法。

— 迈克尔·切尼克
source

在实践中是否经常使用这种临时的贝叶斯测试？

— MånsT

1

@MansT我不这么认为。我认为通常贝叶斯将先验赔率放在零假设为真之后，然后基于数据构造后验赔率。如果后验几率严格反对原假设，则将其拒绝。我不是最好的人，因为我不经常进行贝叶斯推理。

— Michael Chernick

2

迈克尔·谢尔纳（Michael Zellner）在其关于贝叶斯计量经济学的书中将迈克尔描述的测试归功于林德利（Lindley）。

— 2012年

1

是的，这些测试当然源于贝叶斯思想，但是我不确定它们是否在贝叶斯决策理论上有扎实的基础。在后一种情况下，我希望测试是从损失函数中得出的，通常涉及一个检验函数。

— MånsT

2

亲爱的MånsT，看看这些文章：mdpi.org/entropy/papers/e1040099.pdf w.ime.usp.br/~jstern/miscellanea/citacoes/swtest1.pdf

— 禅

-1

让我告诉我如何阅读蒂姆的答案。

它基于表视图，其中列中包含假设（估计参数），行中包含观察值。

在第一个表中，col概率总和为1，即它们是条件概率，其条件，进入列事件的条件在底行中提供，称为“ prior”。在最后一张表中，行的总和类似地为1，在中间，您具有联合概率，即在第一张和最后一张表中找到的条件概率乘以条件的概率，即先验概率。

这些表基本上执行贝叶斯变换：在第一个表中，在每一列中提供观测值（行）的pdf，设置该假设的先验（是的，假设列是该假设下观测值的pdf），对于每个列和表，首先将其放入联合概率表中，然后将其放入假设的概率中（以观察为条件）。

正如我从蒂姆的答案中得到的（如果我错了，请纠正我），关键间隔方法将看在第一张桌子上。也就是说，一旦实验完成，我们就知道了表格的行（在我的示例中是正面还是反面，但您可能会进行更复杂的实验，例如翻转100次硬币并得到一个2 ^ 100行的表格）。频率论者扫描其列，正如我所说的，在假设冷淡的情况下（例如，硬币在我的例子中是公平的），是可能结果的分布，而拒绝那些给出非常低概率值的假设（列）观察到的行。

贝叶斯主义者首先调整概率，将cols转换为行，然后查看表3，找到观察到的结果的行。由于它也是pdf，因此他会通过实验结果行并选择最高概率的假设，直到他的95％可信度满了为止。其余假设均被拒绝。

你喜欢吗？我仍在学习中，图像似乎对我有所帮助。我相信我走在正确的道路上，因为在分析两种方法的差异时，一个著名的用户给出了相同的图片。我提出了假设选择机制的图形视图。

我鼓励大家阅读基思最后的答案，但是我的假设测试机制的图片可以立即说，常客主义者在验证当前假设时不会看另一个假设，而对高可信度假设的考虑则极大地影响了贝叶斯假设中其他假设的接受/拒绝。 analisys，因为如果您有一个假设在观察数据下出现95％的时间，那么您将立即抛出所有其他假设，无论数据在其中的拟合程度如何。让我们进行统计功效分析，该分析基于两个置信区间重叠的假设对它们进行对比。

但是，我似乎发现了两种方法之间的相似之处：它们似乎是通过P(A | B) > P(A) <=> P(B|A) > P(B)property连接的。基本上，如果A和B之间存在依赖关系，则它将在频率表和贝叶斯表中均显示为相关性。因此，进行一个假设检验与另一个假设检验相关时，它们一定要给出相同的结果。研究相关性的根源，可能会给您两者之间的联系。在我的问题中，我实际上问为什么差异而不是绝对相关？

— 小外星人
source