什么是弱信息先验?


10

是否有对弱信息先验的精确定义?

它与得到广泛支持的主观先验有何不同?


3
我的理解是,信息量较弱的先验更多地表达了研究者对先验的态度,而不是先验本身的任何数学性质。典范的例子是盖尔曼(Gelman)建议的柯西(Cauchy)先验,位置0,比例5/2,用于逻辑回归。
Sycorax说恢复莫妮卡

Answers:


6

以上评论是正确的。为了进行定量讨论,文献中有许多“非信息性”先验。参见例如杰弗里斯的先例;请参阅较早的文章什么是“无信息的先验”?我们可以拥有一个完全没有信息的人吗?

它们的定义方式不同,但关键是它们不会在任何特定间隔内放置太多概率(因此有利于这些值),并且均匀分布是一个典型示例。想法是让数据确定模式的位置。


那么,信息量较弱的先验只是稍微信息化的“非信息先验”的更好称呼?
2013年

2
我通常使用“非信息性”,因为这更为常见并表示意图。信息量较弱的人可能更准确,因为所有发行版都包含一些信息(除非它们是不正确的先验。但这是另一次讨论)

1
我的印象是弱信息先验的目标,以避免承诺不提供信息,根据某些理论或其他正式定义先验-他们是正确的先验,对于推理的工作,而没有考虑到所有的先验知识作为一个完全主观之前会。
Scortchi-恢复莫妮卡

1
@Scortchi:我认为您的评论强调了“信息不足的先验”中固有的歧义。您的解释是有道理的,并且与user777类似。“信息性”和概率之间的关系是一件棘手的事情,只有部分令人满意的解决方案(例如,香农熵)。不过,我明白你的意思了……它们不一定是同义词,因为信息量弱的先验可能仅使用某些信息,而信息量不足的先验则显式地忽略了所有可用信息。

0

在Eupraxis1981对信息先验的讨论之后,您可以认为先验中的“信息”与其方差成反比。考虑方差接近零的先验:您基本上是在说:“在查看数据之前,我几乎是肯定的,我已经知道统计的真实值的位置。” 相反,如果您设置了一个很大的方差,则是在说“如果不查看数据,我实际上就没有关于参数真实值的假设。它在任何地方都可能很多,我不会感到惊讶。我预感它可能接近我以前的模式,但是如果事实证明它与我以前的模式相去甚远,我实际上不会感到惊讶。”

无信息的先验是尝试不将先验假设带入您的分析中(它们的成功程度尚有争议)。但这完全有可能,有时对于仅“弱”提供信息的人很有用。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.