有关似然原理的问题


17

我目前尝试理解似然原理,但坦率地说我根本不懂。因此,即使这些问题可能是非常基本的问题,我也会将所有问题写成列表。

  • 在此原则的上下文中,“所有信息”一词到底意味着什么?(就像样本中的所有信息都包含在似然函数中一样。)
  • 该原理是否以某种可证明的事实与p(x|y)p(y|x)p(x)?原则上的“可能性”与p(y|x)是否相同?
  • 数学定理怎么会是“有争议的”?我对数学的(弱)理解是,一个定理要么被证明,要么未被证明。似然原理属于哪一类?
  • 基于公式的贝叶斯推理对似然原理有何重要性?p(x|y)p(y|x)p(x)

卡雷尔,请大家看看:ime.usp.br/~pmarques/papers/redux.pdf

另请参阅Greg Gandenberger的网站:gandenberger.org
Michael

Answers:


10

似然原理已经以多种不同的方式陈述,含义和可理解性各不相同。AWF爱德华兹(AWF Edwards)的《似然》一书既很好地介绍了可能性的许多方面,又在印刷中。这是Edwards定义似然原理的方式:

“在统计模型的框架内,数据提供的关于两个假设相对优劣的所有信息都包含在这些假设的似然比中。” (Edwards 1972,1992 p.30)

所以现在要回答。

  1. 正如您所引用的,“样本中的所有信息”只是似然原理相关部分的不充分表达。爱德华兹说得更好:模型很重要,相关信息是与假设相对优劣有关的信息。值得注意的是,似然比仅在相关假设来自同一统计模型且相互排斥的情况下才有意义。实际上,它们必须是相同似然函数上的点才能使比率有用。

  2. 如您所见,似然原理与贝叶斯定理有关,但它是可证明的,而无需参考贝叶斯定理。是的,只要x是数据且y是假设(可能只是假设的参数值),则p(x | y)是(与之成比例的)可能性。

  3. 似然原理之所以引起争议,是因为它的证明受到了质疑。在我看来,这种反驳是错误的,但是仍然存在争议。(在不同的级别上,可以说似然原理是有争议的,因为它暗示了推断的频繁方法在某些方面是错误的。有些人不喜欢这样。)似然原理已经得到证明,但是其范围关联性可能比批评家想象的要受限制。

  4. 似然性原理对于贝叶斯方法很重要,因为数据通过似然性进入贝叶斯方程。大多数贝叶斯方法都符合似然原理,但并非全部。像爱德华兹和罗亚尔这样的人认为,可以在不使用贝叶斯定理(“纯似然推断”)的情况下,根据似然函数进行推断。这也是有争议的。实际上,它可能比似然性原理更具争议性,因为贝叶斯主义者倾向于与频繁主义者一致认为纯似然性方法是不合适的。(我敌人的敌人...)


“需要注意的是,似然比仅在有关假设来自同一统计模型的地方才有意义” –这到底是什么意思?听起来您是在说您无法比较不同分布族的模型,事实并非如此。
Scortchi-恢复莫妮卡

由于似然仅与* p *(x | y)成比例,因此始终存在未知的比例常数。不同的统计模型允许使用不同的比例常数,因此可能性不可估量。
Michael Lew-恢复莫妮卡

有时可以安排不同的模型以产生单个似然函数(通常是多维的),以便可以合理地比较似然,但这并不总是可能的。
Michael Lew-恢复莫妮卡

1
XFGθϕ
FX;θ^GX;ϕ^

1
χ2
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.