贝叶斯主义者是否曾经争论说他们的方法可以归纳为常人主义方法,因为人们可以使用非信息先验,因此可以恢复典型的常人主义模型结构?
如果确实使用过这种说法,谁能将我引到一个我可以阅读该论点的地方?
编辑:这个问题的措词可能不完全是我想表达它的方式。问题是:“是否有讨论使用贝叶斯方法和频繁主义者方法通过使用特定先验来重叠/相交/具有共同点的情况的讨论?” 一个例子是使用不适当的先验,但是我很确定这只是冰山一角。
贝叶斯主义者是否曾经争论说他们的方法可以归纳为常人主义方法,因为人们可以使用非信息先验,因此可以恢复典型的常人主义模型结构?
如果确实使用过这种说法,谁能将我引到一个我可以阅读该论点的地方?
编辑:这个问题的措词可能不完全是我想表达它的方式。问题是:“是否有讨论使用贝叶斯方法和频繁主义者方法通过使用特定先验来重叠/相交/具有共同点的情况的讨论?” 一个例子是使用不适当的先验,但是我很确定这只是冰山一角。
Answers:
我已经看到了两种观点,认为贝叶斯分析是对频度分析的概括。两者都有些开玩笑,并且使人们通过使用先验作为背景来认识有关回归模型的假设。
论点1:频繁分析是贝叶斯分析,其先验信息完全以零为中心(是的,其中心在哪里都没有关系,但可以忽略该点)。这提供了贝叶斯可能提取频繁性分析结果的上下文,并解释了为什么在某些情况下(例如,最大似然收敛困难),可以使用MCMC等“贝叶斯”技术来提取频繁性估计,并且人们认识到,当他们说“数据为自己说话”之类的东西时,他们实际上是在说,所有价值都是一样的。
论据2:实际上,您未包含在模型中的任何回归项都被分配了以0为中心且无方差的先验值。这种说法与其说是“贝叶斯分析是一种概括”,不如说是“ 到处都有先验,甚至在您的常客模型中也是如此”。
简短的答案可能是“是的-而且您甚至不需要一个先验就可以保留该参数。”
例如,最大后验(MAP)估计值是对最大似然性的概括,其中包括先验概率,并且存在频繁性方法,这些方法在分析上等同于找到该值。该常客在似然函数上将“先验”重新标记为“约束”或“惩罚”,并得到相同的答案。因此,即使理念不同,常客和贝叶斯主义者也都可以指出同一件事是他们的最佳参数估计。本常客论文的第5节是一个等同的例子。
更长的答案更像是“是的,但是分析中的其他方面通常可以区分这两种方法。不过,即使是这些区别在很多情况下也不一定是铁定的。”
例如,尽管贝叶斯人有时在方便时会使用MAP估计(后验模式),但通常会强调后验均值。另一方面,后验均值也有一个频繁出现的类似物,称为“袋装”估计值(来自“ bootstrap聚集”),几乎无法区分(有关此论点的示例,请参阅此pdf)。因此,这也不是真正的“硬”区别。
实际上,所有这些都意味着,即使常客做了贝叶斯认为完全违法的行为(反之亦然),另一阵营也常常(至少原则上)提供几乎相同的答案。
主要的例外是,从频率论者的角度来看,确实很难适应某些模型,但这比哲学上的问题更实际。
我想听听Stephane或其他贝叶斯专家的意见。我会说不,因为这是一种不同的方法而不是概括。在另一种情况下,这在此之前已被争论过。不要以为仅凭先验先验会产生接近最大可能性的结果,那就是采用先验先验的贝叶斯方法是经常出现的!我认为这将是一个错误的假设,使您认为通过将先验定为任意,您就可以概括为其他可能的先验。我不这么认为,而且我可以肯定大多数贝叶斯主义者也不会。
因此,有人确实提出了异议,但我认为他们不应该被归类为贝叶斯主义者
尽管斯蒂芬(Stephane)指出了分类困难的问题。因此严格来说,如果这个词曾经存在过,那么我想它可能取决于您如何定义贝叶斯。