我们常客真的是隐性/不了解贝叶斯主义者吗?


15

对于给定的推理问题,我们知道贝叶斯方法通常在形式和结果上都不同于后继方法。经常有人(通常包括我在内)经常指出,他们的方法不需要先验,因此更多是“数据驱动”而不是“判断驱动”。当然,贝叶斯定律可以指向非信息性先验,或者说是实用的,只使用一个真正的分散先验。

我的担忧,尤其是在对惯常的客观性感到自鸣得意之后,尤其是我声称的“客观”方法可以在贝叶斯框架中提出,尽管有一些不同寻常的先验和数据模型。在那种情况下,我只是幸福地对荒谬的先验知识一无所知,并且仿照我的常客主义方法所暗示的那样吗?

如果贝氏指出,这样的提法,我想,我的第一反应是说“嗯,这是很好的,你可以这样做,但我怎么这不是这个问题!”。但是,谁在乎我如何看待它或如何制定它。如果我的程序在统计学上/数学上等效于某些贝叶斯模型,那么我隐式地(不经意间!)执行贝叶斯推断。

下面的实际问题

这种认识大大破坏了任何自鸣得意的诱惑。但是,我不确定贝叶斯范式是否可以容纳所有惯常做法(同样,只要贝叶斯选择合适的先验和可能性)是否成立。我知道相反的说法错误的。

我之所以这样问,是因为我最近发布了一个关于条件推断的问题,这使我想到了以下论文:在此处(请参阅3.9.5,3.9.6)

他们指出了Basu的著名结果,即可能有不止一个辅助统计信息,这引发了关于哪个“相关子集” 相关的问题。更糟糕的是,它们显示了两个示例,这些示例说明即使您具有唯一的辅助统计信息,也无法消除其他相关子集的存在。

他们继续得出结论,只有贝叶斯方法(或与之等效的方法)才能避免此问题,从而实现无条件的条件推断。


贝叶斯统计惯常主义统计可能并非如此-这是我在这里向这个小组提出的问题。但是看来,这两种范式之间的根本选择在于哲学上而不是目标上:您需要较高的条件精度还是较低的无条件误差:

  • 当我们必须分析一个奇异的实例时,高条件精度似乎是适用的-尽管这种方法可能不适用于下一个数据集(超条件/专业化),但我们希望适合这种特殊的推断。

  • 如果在某些情况下我们愿意做出有条件的错误推断,则低无条件错误是合适的,只要我们将长期运行的错误最小化或加以控制即可。老实说,写完这篇文章后,我不确定为什么要这么做,除非我被束缚了时间并且无法进行贝叶斯分析……嗯。

我倾向于基于似然的惯性论推论,因为我从似然函数中得到了一些(渐近/近似)条件性,但不需要摆弄先验条件-但是,我对贝叶斯推论越来越适应,尤其是当我看到了用于小样本推断的先前的aa 正则化术语。

抱歉,放在一边。我的主要问题的任何帮助表示赞赏。


1
对帖子的修改似乎弄乱了链接,但没有足够的信息可供我修复。
迪克兰有袋博物馆,2016年

@DikranMarsupial感谢您注意到这一点。我重新添加了链接。

Answers:


3

我要说的是,常客确实确实经常是“隐性/不了解贝叶斯主义者”,因为在实践中,我们经常希望对频率不高的事情进行概率推理。最经典的例子是零假设统计测试(NHST),我们真正想知道的是零假设和研究假设的相对概率为真,但由于特定假设的真相没有,因此我们在频繁论者环境中无法做到这一点。 (非平凡的)长期运行频率-这是对的,或者不是。经常出现的NHST通过替代一个不同的问题来解决此问题,即“在原假设下观察结果至少达到极限的概率是多少”,然后将其与预定阈值进行比较。但是,此过程在逻辑上不合理 允许我们得出关于H0或H1是否为真的任何结论,并且这样做实际上是从一种频繁出现的框架中迈出了(通常是主观的)贝叶斯框架,在该框架中,我们得出结论,在H0下观察到这种极值的概率为如此之低,以至于我们不再相信H0可能是正确的(请注意,这隐含地将概率分配给特定的假设)。

αpH0pH1

在此处输入图片说明

α

可以说,置信区间经常被使用(并解释为)我们可以期望以给定概率看到观测值的区间,这也是贝叶斯解释。

理想情况下,统计学家应该意识到两种方法的利弊,并准备针对当前的应用程序使用正确的框架。基本上,我们应该着眼于使用能够为我们实际想要回答的问题提供最直接答案的分析(而不是悄悄地替代其他问题),因此,在我们对长期频率和实际频率感兴趣的情况下,频繁采用的方法可能是最有效的并非如此的贝叶斯方法。

H0


2
p<0.05

3
我认为这是对“无效仪式”统计数据的批评,在这种情况下,NHST被用作统计食谱的配方,而没有考虑/理解程序(可能当我起步时包括我在内; o)。
迪克兰有袋博物馆,2016年

2
我认为NHST的一个大问题是仪式化的p <0.05少了,而更多的是人为地限制了假设的空间。我的意思是,他们没有考虑(作为假设)除了“太阳爆炸”以外,还有很多其他原因会导致天黑。这是我真正不喜欢NHST的地方...对null是如此保守。另外,我想知道此测试的功能是什么?

1
H0

@DikranMarsupial同意!费舍尔设想他们会协助进行农业实验,这就是p值的来源。评估农药和化肥就像评估不可重复的存在性问题……错误的工作工具。

4

贝叶斯主义者和惯常主义者不仅在他们如何获得推论上有所不同,或者这些推论在确定某些先验选择时有多大相似或不同。主要区别在于他们如何解释概率:

贝叶斯概率

贝叶斯概率是对概率概念的一种解释。与将概率解释为某种现象的发生频率或倾向相反,贝叶斯概率是指代表知识状态或信念状态的量。

常见概率

频繁概率或频繁性是概率的标准解释;它在许多试验中将事件的概率定义为事件相对频率的极限。这种解释支持了实验科学家和民意测验的统计需求;概率可以通过可重复的客观过程找到(原则上)(因此理想情况下没有意见)。它不能满足所有需求;赌徒通常需要在没有实验的情况下估算赔率。

这两个定义代表了定义概率概念的两种不可调和的方法(至少到目前为止)。因此,与在某些参数模型或非参数模型中获得相似的估计量或相同的结论相比,这两个领域之间存在更多的根本差异。


1
我不认为它们是完全不可调和的,长期运行是知识或信念状态的完全合理的基础。
迪克兰有袋博物馆,2016年

@DikranMarsupial这实际上是科学哲学中的一个开放问题。我明白你的意思,但是和解不是那么简单。
Pollo Anabolico

FüñCŤ一世Øñ一种ÿ

如果每个贝叶斯程序也有一个常客类比,那么常客肯定在功能上是等效的,这是不正确的,因为贝叶斯主义者可以谈论没有长期运行频率的事物的概率,而常客则不能。
迪克兰有袋动物

@DikranMarsupial是的,这就是为什么我问惯常论者是否是贝叶斯的子集的原因(我承认相反是错误的)。
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.