为什么用于贝叶斯因子和p值的临界值如此不同？

我想了解贝叶斯因子（BF）。我相信它们就像两个假设的似然比。因此，如果BF为5，则意味着H1的可能性是H0的5倍。值3-10表示中度证据，而值> 10表示有力证据。

但是，对于P值，传统上将0.05作为截止值。在此P值下，H1 / H0似然比应约为95/5或19。

那么，为什么BF的截止值> 3，而P值的截止值> 19？这些值也不是很接近。

— 恩索
source

我跟他说：“如果BF不舒服

，这意味着

是

倍更有可能比

”。贝叶斯因子可能是边际似然比，但不是概率比或比值比，因此必须与之前的值结合才能使用

5

$5$

H_{1}

$H_1$

5

$5$

H_{0}

$H_0$

— 亨利

如果我们没有任何特定的先验信息，那么关于BF的含义我们能说什么？

— rnso

当然，即使说没有任何特定的先验信息，也拥有“一些”先验信息。也就是说，在这种情况下，根据无差异原则为每个假设分配相等的概率是合理的。这是所谓的非信息先验的一个简单例子（公认的误称）。

— dnqxt

在这种情况下，BF为5是否表示一个假设的可能性高5倍？

— rnso

是的，但是这个问题比看起来的要复杂得多，并且涉及统计中的模型选择领域。您已被警告:)）

— dnqxt

Answers:

一些东西：

BF为您提供了支持该假设的证据，而常识性假设检验则为您提供了针对（无效）假设的证据。所以有点像“苹果到桔子”。

尽管在解释上有所不同，但这两个过程可能导致不同的决定。例如，BF可能会拒绝，而频繁假设检验则不会，或者反之亦然。这个问题通常被称为Jeffreys-Lindley悖论。这个网站上有很多关于这个的帖子；见例如这里和这里。

“在此P值下，H1 / H0可能性应该为95/5或19。” 不，这不是真的，因为，大致 $p(y \mid H_1) \neq 1- p(y \mid H_0)$ 。至少要计算一个p值并进行一个频繁检验，就不需要您对 $p(y \mid H_1)$ 有任何了解。同样，p值通常是密度/ pmfs的积分/总和，而BF不在数据样本空间上积分。

— 泰勒
source

泰勒跟它的证据阈值针对一种假设（

）不能直接相比，证据阈值对于另一个假说（

），也不能约。当您停止相信无效效果时，就不必与开始相信替代方法时有关。这就是为什么

值不应解释为

H_{0}

$\text{H}_0$

H_{1}

$\text{H}_1$

p

$p$

1 - ({belief in H}_{1})

$1 - (\text{belief in H}_1)$

— Frans Rodenburg

也许这可以澄清：en.wikipedia.org/wiki/Misunderstandings_of_p-values的频率论

-值是不是证据措施的任何东西。

p

$p$

— 弗朗斯·罗登堡

抱歉，最后一个评论：之所以不能将其视为支持

证据，是因为如果

为真，就有机会观察到如此大的效应大小。如果

确实为真，则

值应该是一致随机的，因此其值对

的概率没有意义。解释的这种微妙之处是

被滥用的原因之一。

H_{1}

$\text{H}_1$

H_{0}

$\text{H}_0$

H_{0}

$\text{H}_0$

p

$p$

H_{1}

$\text{H}_1$

p

$p$

— 弗朗斯·罗登堡

@benxyzzy：

值的分布仅在零假设下是均匀的，而在

值严重偏向零的情况下则不然。

p

$p$

— 西安

@benxyzzy要补充一点：使用

值的要点是在零假设下它是均匀随机的，因此，如果您得到一个很小的

值，则暗示它可能不是均匀随机的，因此可能为空假设是不正确的。

p

$p$

p

$p$

— JiK

的贝叶斯因子 $B_{01}$ 可以相等的权重下变成一个概率为

P_{01} = \frac{1个}{1个 + \frac{1个}{乙_{01}}}

$P_{01}=\frac{1}{1+\frac{1}{\large B_{01}}}$ 但这不能使它们与

p

$p$ 值可比，因为

$P_{01}$ 是参数空间中的概率，而不是采样空间中的概率
它的值和范围依赖于在先测量的选择，它们是相对于由此而不是绝对的（和泰勒的提及的的林德利-杰弗里斯悖论是合适在此阶段）
既 $B_{01}$ 和 $P_{01}$ 包含的复杂性（奥卡姆剃刀）的罚款通过在参数空间中集成了

如果要考虑贝叶斯相当于 $p$ -值时，后验预测 $p$ -值（孟，1994）应进行调查

问_{01} = P （ 乙_{01} （ X ） \leq 乙_{01} （ X^{肥胖} ） ）

$Q_{01}=\mathbb P(B_{01}(X)\le B_{01}(x^\text{obs}))$ ，其中

x^{obs}

$x^\text{obs}$ 表示观察和

X

$X$ 是从后预测分布式

X 〜 \int_{Θ} F （ X | θ ） π （ θ | X^{肥胖} ） d θ

$X\sim \int_\Theta f(x|\theta) \pi(\theta|x^\text{obs})\,\text{d}\theta$ 但这并不意味着拒绝和相同的“默认”标准的意义应适用于该对象。

— 西安
source

使用您的公式，BF的P为3和10分别为0.75和0.91。我们为什么要接受这些作为中等证据，因为对于P值，我们将临界值保持在0.95？

— rnso

为什么

在此框架中有意义？还是全部？确定大号何时足够大取决于实用程序功能。

0.95

$0.95$

— 西安

该公式看起来更简单P = B/(B+1)

— rnso

您的某些困惑可能是由于p值为0.05的事实直接取了95/5，这是您在做什么？我不认为这是正确的。例如，t检验的p值反映了获得均值之间观察到的差异的机会，或者如果零假设实际上是真实的，则该差异可能会产生更大的差异。如果ap值为0.02，则说“啊”，只有2％的机会得到这样的差异，或者如果null为true，则差异更大。这似乎非常不可能，所以我建议null不正确！这些数字与进入贝叶斯因子的东西不同，贝叶斯因子是给每个竞争假设的后验概率之比。这些后验概率的计算方式与p值不同，

附带说明一下，我建议强烈建议不要将不同的BF值视为具有特定意义。这些分配是完全任意的，就像.05的显着性水平一样。如果人们开始相信只有特定的数字值得考虑，贝叶斯因素（Bayes Factors）也会很容易发生诸如p-hacking之类的问题。尝试了解它们的含义（如相对概率），并根据自己的判断确定是否找到有说服力的BF数字。

— 杰米
source