计算所需的样本量，方差估计的精度？

17

背景

我有一个未知分布的变量。

我有500个样本，但是我想证明我可以计算方差的精度，例如说500的样本量就足够了。我也想知道以的精度估算方差所需的最小样本量 $X\%$ 。

问题

我该如何计算

给定样本量，我估计方差的精度 $n=500$ ？的 $n=N$ ？
如何计算以精度估算方差所需的最小样本数 $X$ ？

例

图1基于500个样本的参数密度估计。

在此处输入图片说明

图2这是我使用500个样本的子样本计算出的x轴上的样本大小与y轴上的方差估计值之间的关系图。想法是随着n的增加，估计值将收敛到真实方差。

然而，估计是无效的独立自样品用于估计方差 $n \in [10,125,250,500]$ 是不相互独立的或在用于计算方差的样本 $n\in [20,40,80]$

在此处输入图片说明

— 安倍
source

请注意，如果未知分布的组成部分是柯西分布，则方差是不确定的。

— Mike Anderson

@Mike或实际上还有无数其他发行版。

— Glen_b-恢复莫妮卡

10

对于iid随机变量，方差（分母为）的无偏估计量具有方差： $X_1, \dotsc, X_n$ $s^2$ $n-1$

V a r (s^{2}) = σ^{4} (\frac{2}{n - 1} + \frac{κ}{n})

$\mathrm{Var}(s^2) = \sigma^4 \left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$

其中是分布的过度峰度（参考：Wikipedia）。因此，现在您还需要估算分布的峰度。您可以使用有时被描述为一个数量（也来自维基百科）： $\kappa$ $\gamma_2$

γ_{2} = \frac{μ_{4}}{σ_{4}} - 3

$\gamma_2 = \frac{\mu_4}{\sigma_4} - 3$

我会假设，如果你用作为一个估计和作为估计，你得到一个合理的估计，虽然我没有看到一个保证，这是偏见。看看它是否与您的500个数据点的子集之间的方差合理地匹配，是否不再担心它了：） $s$ $\sigma$ $\gamma_2$ $\kappa$ $\mathrm{Var}(s^2)$

— 埃里克·P。
source

您是否有关于无偏方差估计量的教科书参考？我不知道从Wikipedia那里可以得到更多的信息。

— 安倍

我在这里没有标准文字赖斯，所以我无法为您检查页码，但我确定它在其中。维基百科建议也应在以下网站中提及：华盛顿州蒙哥马利市和GC州罗格市：工程师的应用统计和概率，第201页。John Wiley＆Sons纽约，1994

— 。– Erik P.

感谢您的帮助。这个答案非常有用，并且可以量化方差不确定性-我在最后一天应用了约10次该方程式。使用库很容易计算出

：

k a p p a

$kappa$ momentslibrary(moments); k <- kurtosis(x); n <- length(x); var(x)^2*(2/(n-1) + k/n)

— 安倍

您是否有可能从Rice文本中找到页码？我在Casella和Berger中找不到它。如果您知道的话，主要参考会更好。维基百科页面明显未被引用。

— 2012年

嗯...看来莱斯也没有公式。我会密切注意，但目前我还没有任何参考。

— Erik P.

15

学习差异很难。

在许多情况下，需要（可能令人惊讶）大量样本才能很好地估计方差。下面，我将展示iid正常样本的“规范”案例的发展。

假设，被独立的随机变量。我们寻求的方差，使得间隔的宽度是置信区间，即，宽度为点估计的。例如，如果，则CI的宽度是点估计值的一半，例如，如果 $Y_i$ $i=1,\ldots,n$ $\mathcal{N}(\mu, \sigma^2)$ $100(1-\alpha)\%$ $\rho s^2$ $100\rho \%$ $\rho = 1/2$ ，则CI将类似于 $s^2 = 10$ ，宽度为5。注意点估计周围的不对称性。（是方差的无偏估计量。） $(8,\,13)$ $s^2$

“该”（更确切地说， “A”）为置信区间是 $s^2$ 其中

\frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (1 - α / 2)}} \leq σ^{2} \leq \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (α / 2)}},

$\frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \leq \sigma^2 \leq \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} \>,$

是自由度为

的卡方分布的

分位数。（出现这种情况的事实，

。处于高斯设置的枢转量）

χ_{(n - 1)}^{2 β}

$\chi_{(n-1)}^{2\;\beta}$

β

$\beta$

n - 1

$n-1$

(n - 1) s^{2} / σ^{2}

$(n-1)s^2/\sigma^2$

我们想要最小化宽度，以使因此我们要求解使得

L (n) = \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (α / 2)}} - \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (1 - α / 2)}} < ρ s^{2},

$L(n) = \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} < \rho s^2 \>,$

n

$n$

(n - 1) (\frac{1}{χ_{(n - 1)}^{2 (α / 2)}} - \frac{1}{χ_{(n - 1)}^{2 (1 - α / 2)}}) < ρ .

$(n-1) \left(\frac{1}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{1}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \right) < \rho .$

对于99％的置信区间的情况下，我们得到为和为。最后一种情况产生的间隔为（仍然！ $n = 65$ $\rho = 1$ $n = 5321$ $\rho = 0.1$ 方差的点估计的）10％。

如果您选择的置信度小于99％，则对于较低的值，将获得相同的宽度间隔。但是， $n$ $n$ 可能仍然比您猜想的要大。

样本大小与比例宽度显示出一些东西在对数对数刻度上看起来是渐近线性的；换句话说，是一种类似于幂律的关系。我们可以粗略地估计这种幂律关系的力量为 $n$ $\rho$

\hat{α} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{- \log 10}{\log \frac{5231}{65}} \approx - 0.525,

$\hat{\alpha} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{-\log 10}{\log \frac{5231}{65}} \approx -0.525 ,$

不幸的是，这绝对是缓慢的！

这是一种“规范”情况，可让您感觉如何进行计算。根据您的情节，您的数据看起来不是特别正常。特别是似乎有明显的偏斜。

但是，这应该使您对预期结果有个大致了解。请注意，要回答上面的第二个问题，有必要先确定一些置信度，在上面的开发中，出于演示目的，我将其设置为99％。

— 红衣主教
source

这是对我的问题的很好回答。但是，尽管我遵循您对

进行的计算

，它是不完全清楚，我如果单位为

是百分之在溶液

为

; 这是否意味着“

小于

”或“

小于

的

？

n | ρ

$n|\rho$

r h o

$rho$

n = 65

$n=65$

ρ < 1

$\rho<1$

ρ

$\rho$

1 \times s^{2}

$1\times s^2$

ρ

$\rho$

1 %

$1\%$

s^{2}

$s^2$

— 阿部

@Abe，已更新，并希望在此过程中得到澄清。以前的版本中有一个特别糟糕的错字。对于那个很抱歉。

— 主教

一个很好的答案，但我从@Erik中选择了一个，因为它更适用于我的问题（因为我的参数不是正态分布的）。

— 2012年

@安倍：没有问题。这就是复选标记的用途。我的回答是说明性的，比什么都重要。据我所知，它似乎仍然是解决您两个问题的唯一方法，即使在Erik概述的情况下，它也是（渐近地）正确的。（一年多以前给他+1）：)

— 红衣主教

您是正确的，我很高兴现在重新回答了您的答案。我最终使用了@Erik的常规计算，但是现在我看到了常规解决方案中的值。另外，如果以

的形式查看统计信息，而不是了解方差是什么，那么提出CI而不是SD可以解决我的观众感到困惑的问题。因此，

应该使这一点更加清楚，并与其他统计摘要相一致。这将有助于显示不对称性。

s (s_{s})

$s(s_{s})$

s [l c l, u c l]

$s[lcl,ucl]$

— 安倍

1

我将专注于SD而不是方差，因为它的规模更容易解释。

人们有时确实会查看SD或方差的置信区间，但重点通常放在均值上。

你给出的分配结果可以用来得到一个置信区间（因此也）; 最入门的数学/ STAT文本将给予在其中的ditribution同款细节被提及。我只会从每条尾巴拿走2.5％。 $s^2/\sigma^2$ $\sigma^2$ $\sigma$ $\sigma^2$

— 卡尔
source

（此答复是在合并了一个重复的问题（框架略有不同之后，才在这里得到的）。）

— whuber

1

Greenwood和Sandomire在1950年的JASA论文中给出了以下解决方案。

让是从一个随机样品的分布。您将使用作为（偏差）估计量的样本标准偏差来推断 $X_1,\dots,X_n$ $\mathrm{N}(\mu,\sigma^2)$ $\sigma$

S = \sqrt{\sum_{i = 1}^{n} \frac{(X_{i} - \bar{X})^{2}}{n - 1}},

$S=\sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X})^2}{n-1}},$

S

$S$

σ

$\sigma$

0 < u < 1

$0<u<1$ 。那是，

镨 {小号 < （ 1个 - ü ） \cdot σ} = 一种 和 镨 {小号 > (1 + u) \cdot σ} = b,

$\Pr\{S<(1-u)\cdot\sigma\}=a \quad\text{and}\quad \Pr\{S>(1+u)\cdot\sigma\}=b,$ in which the significance level

γ = 1 - a - b

$\gamma=1-a-b$ .

It follows that

Pr {\frac{(n - 1) S^{2}}{σ^{2}} < (n - 1) (1 - u)^{2}} = a

$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} < (n-1)(1-u)^2\right\} = a$ and

Pr {\frac{(n - 1) S^{2}}{σ^{2}} > (n - 1) (1 + u)^{2}} = b .

$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} > (n-1)(1+u)^2\right\} = b.$ Since the pivotal quantity

(n - 1) S^{2} / σ^{2}

$(n-1)S^2/\sigma^2$ has

χ_{n - 1}^{2}

$\chi^2_{n-1}$ distribution, adding the two probabilities, we find

γ = F_{χ_{(n - 1)}^{2}} ((n - 1) (1 + u)^{2}) - F_{χ_{(n - 1)}^{2}} ((n - 1) (1 - u)^{2}),

$\gamma = F_{\chi^2_{(n-1)}}((n-1)(1+u)^2) - F_{\chi^2_{(n-1)}}((n-1)(1-u)^2),$

and the necessary sample size is found solving the former equation in $n$ for given $\gamma$ and $u$ .

R code.

gamma <- 0.95
u <- 0.1
g <- function(n) pchisq((n-1)*(1+u)^2, df = n-1) - pchisq((n-1)*(1-u)^2, df = n-1) - gamma
cat("Sample size n = ", ceiling(uniroot(g, interval = c(2, 10^6))$root), "\n")

Output for $u=10\%$ and $\gamma=95\%$ .

Sample size n = 193

— Zen
source