足够的统计,细节/直觉问题


16

我在自学一些有趣的统计数据,并且对足够的统计数据有些困惑。我将以列表格式列出我的困惑:

  1. 如果分布具有n参数,那么它将具有n足够的统计量吗?

  2. 足够的统计量和参数之间是否存在某种直接对应关系?还是将足够的统计信息用作“信息”库,以便我们可以重新创建设置,以便可以为基础分布的参数计算相同的估计值。

  3. 所有发行版都有足够的统计信息吗?即。分解定理会失败吗?

  4. 使用我们的数据样本,我们假设数据最有可能来自该分布,然后可以为该分布的参数计算估计值(例如MLE)。足够的统计数据是一种能够对参数计算相同估计值而不必依赖数据本身的方法,对吗?

  5. 所有足够的统计信息集都会具有最小的统计信息吗?

这是我用来尝试理解主题的材料:https : //onlinecourses.science.psu.edu/stat414/node/283

据我了解,我们有一个分解定理,它将联合分布分解为两个函数,但是我不明白在将分布分解为函数后,我们如何能够提取足够的统计量。

  1. 本例中给出的泊松问题具有明确的因式分解,但随后指出,足够的统计量是样本均值和样本和。仅通过看第一个方程的形式,我们怎么知道这些才足够?

  2. 如果因式分解结果的第二个方程有时取决于数据值Xi本身,那么如何使用足够的统计量进行相同的MLE估计呢?例如在泊松案例中,第二个函数取决于数据阶乘乘积的倒数,因此我们将不再拥有数据!

  3. 相对于网页上的Poisson示例,为什么样本量n不够统计?我们将要求n重构第一个函数的某些部分,所以为什么它也不足够统计呢?n


只是一个快速澄清的问题-您来自哪个“角度”就足够了?最大似然?贝叶斯?最大熵?抽样理论?还有吗
概率

我是从MLE的角度出发的,很抱歉,如果我的帖子不是最出色的,那是我在该论坛上的第一篇帖子!
泡菜2014年

Answers:


12

在任何有关理论统计的教科书中,您都可能会从阅读有关充分性的内容中受益,其中将详细讨论其中的大多数问题。简短地...

  1. 不必要。这些是特殊情况:支持(数据可取的值的范围)不依赖于未知参数的分布,只有指数族中的那些具有与维数相同的维数的充分统计量。参数。因此,为了根据独立观测值估算威布尔分布的形状和比例或逻辑分布的位置和比例,阶次统计量(整个观测集不考虑其顺序)就足够小了—您不能在不损失的情况下进一步减小观测量有关参数的信息。当支撑确实取决于未知参数时,它会变化:对于上的均匀分布,样本最大值足以满足θ(0,θ)θ; 上的均匀分布样品的最小和最大在一起就足够了。(θ1,θ+1)

  2. 我不知道您所说的“直接对应”是什么意思;您提供的替代方法似乎是描述足够统计数据的一种公平方法。

  3. 是的:从整体上看,这些数据就足够了。(如果您听到有人说没有足够的统计数据,则意味着没有低维统计数据。)

  4. 是的,就是这个主意。(剩下的(取决于足够统计量的数据分布)可用于独立于未知参数来检查分布假设。)

  5. 显然不是,尽管我收集的反例不是您可能想在实践​​中使用的发行版。[如果任何人都可以在不深入衡量理论的情况下解释这一点,那就太好了。]

为了回答其他问题...

  1. 第一个因素,,取决于λ只有通过Σ X 。因此,x i的任何一对一函数就足够了:x ix i / nx i 2,依此类推。enλλxiλxixixixi/n(xi)2

  2. 第二个因素,不依赖于λ&所以不会影响的值λ˚FX;λ为最大。派生MLE并亲自查看。1x1!x2!xn!λλf(x;λ)

  3. 样本大小是一个已知常数,而不是随机变量的实现值,因此不被视为足够统计量的一部分;除了您要推断的参数外,其他已知参数也是如此。n

†在这种情况下,平方是一对一的,因为始终为正。xi

•当随机变量N的实现值时,它将成为足够统计量x in )的一部分。假设您通过抛硬币来选择10或100的样本大小:n不会告诉您有关θ的值,但会影响您估算它的精确度;在这种情况下,它被称为x i辅助补语,并且可以通过限制其实现的值来进行推断,实际上忽略了它可能会有所不同。n N(xi,n)nθxi


1
我希望看到5的反例。我试图用Zorn's Lemma证明相反的情况,但它在某一时刻崩溃了。但是从我收集到的数据来看,反例应该是很古怪的。您有什么参考资料可以找到吗?我不介意在量度理论上太沉重。
sjm.majewski 2014年

@ sjm.majewski:Lehmann给Pitcher(1957年),“一些措施不承认必要和足够的统计数据或子字段”,安。数学。统计员。28,p267-268; 和Landers&Rogge(1973)。“关于充分性和不变性”,安。统计员。1,p543-544。
Scortchi-恢复莫妮卡
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.