从某种意义上说，样本均值是分布的“最佳”估计值均值吗？

通过大量的（弱/强）法，给出了一些独立同分布的采样点分布的，它们的样本均值 $\{x_i \in \mathbb{R}^n, i=1,\ldots,N\}$ 在样本量趋于无穷大时，在概率和概率上均收敛于分布均值。 $f^*(\{x_i, i=1,\ldots,N\}):=\frac{1}{N} \sum_{i=1}^N x_i$ $N$

当样本量固定时，我想知道LLN估计量在某种意义上是否是最佳估计量？例如， $N$ $f^*$

它的期望是分布均值，因此它是一个无偏估计量。方差为其中是方差分布。但这是UMVU吗？ $\frac{\sigma^2}{N}$ $\sigma^2$
是否有一些函数使得解决了最小化问题： $l_0: \mathbb{R}^n \times \mathbb{R}^n \rightarrow [0,\infty)$ $f^*(\{x_i, i=1,\ldots,N\})$
$f^{*} ({x_{i}, i = 1, \dots, N}) = {argmin}_{u \in R^{n}} \sum_{i = 1}^{N} l_{0} (x_{i}, u) ?$ $f^*(\{x_i, i=1,\ldots,N\}) = \operatorname{argmin}_{u \in \mathbb{R}^n} \quad \sum_{i=1}^N l_0(x_i, u)?$
换句话说，是最小对比度框架中具有某些对比度函数的最佳值（请参阅Bickle和Doksum撰写的“ 数学统计：基本概念和所选主题，第1卷 ”中的第2.1节“估计的基本启发式” ）。 $f^*$ $l_0$

例如，如果已知分布/将其限制为高斯分布族，则样本均值将是分布均值的MLE估计量，并且MLE属于最小对比框架，并且其对比函数减去对数似然函数。 $l_0$
是否存在一些函数，使得解决了最小化问题： $l: \mathbb{R}^n \times F \rightarrow [0,\infty)$ $f^*$ 对于任何配电的一些家庭中分布的？
$f^{*} = {argmin}_{f} E_{iid {x_{i}, i = 1, \dots, N} each with distribution P} l (f ({x_{i}, i = 1, \dots, N}), P) ?$ $f^* = \operatorname{argmin}_{f} \quad \operatorname{E}_{\text{iid }\{x_i, i=1,\ldots,N\} \text{ each with distribution }P } \quad l(f(\{x_i, i=1,\ldots,N\}), P)?$ $P$ $x_i$ $F$
换句话说，是决策理论框架中某些损失函数和分布族的最佳选择（参见“ 数学统计：基本概念和所选主题，第1卷 ” Bickle和Doksum）。 $f^*$ $l$ $F$

请注意，以上是到目前为止我所知道的“最佳”估计的三种不同解释。如果您知道适用于LLN估算器的其他可能解释，请也不要犹豫提及。

estimation expected-value law-of-large-numbers

— 提姆
source

表征估算器的另一种方法：请在此处阅读有关一致性估算器的信息。由于LLN，样本均值是一致的。

— 罗希特·邦加

X_{1}, X_{2}, \dots, X_{n} \sim U (0, θ)

$X_1, X_2, \ldots, X_n \sim \mathcal{U}(0,\theta)$

\frac{1}{n} \sum_{i = 1}^{n} X_{i}

$\frac{1}{n} \sum_{i=1}^{n} X_i$

θ

$\theta$

\frac{n + 1}{n} X_{(n)}

$\frac{n+1}{n}X_{(n)}$

谢谢！但是如何计算其方差？

— 蒂姆，

Y = X_{(n)}

$Y=X_{(n)}$

f (y) = \frac{n y^{n - 1}}{θ^{n}}; y \in (0, θ)

$f(y)= \frac{ny^{n-1}}{{\theta}^n} ; y\in (0,\theta)$

\frac{n}{n + 1} Y

$\frac{n}{n+1}Y$

V a r (\frac{n}{n + 1} Y) = \frac{1}{n (n + 2)} θ^{2}

$Var(\frac{n}{n+1}Y)=\frac{1}{n(n+2)}\theta^2$

\frac{1}{n^{2}}

$\frac{1}{n^2}$

\frac{1}{n}

$\frac{1}{n}$

[0, θ]

$[0, \theta]$

θ / 2

$\theta/2$

θ

$\theta$

$l_0$ $(x-u)^2$ $(x-u)'(x-u)$

在某些技术条件下，最小对比度估算器既是一致的又是渐近正常的。对于样本均值，这已经遵循LLN和中心极限定理。我不知道最小对比度估计量在任何方面都是“最佳”的。最小对比度估计量的优点在于，许多健壮的估计量（例如中位数，Huber估计量，样本分位数）都属于该族，我们可以通过将一般性定理应用于最小对比度估计量来得出结论，它们是一致且渐近正态的，因此只要我们检查一些技术条件（尽管通常这比听起来要困难得多）。

您在问题中没有提到的最优性概念是效率，大致而言，它是关于需要多少样本才能得出一定质量的估计值。有关均值和中位数效率的比较，请参见http://en.wikipedia.org/wiki/Efficiency_（statistics）#Asymptotic_efficiency（均值效率更高，但中位数对异常值的鲁棒性更高）。

$x_i$

$f^*$ $P$ $f^*$ $\max_{P\in F}$ $P\in F$ $P$ $P$

— 戴维
source

谢谢！是否有一些关于最小对比度估计量的属性的良好参考，例如一致和渐近正态，以及诸如中位数，Huber估计量，样本分位数之类的示例？

— 添

您引用的Bickel＆Doksum书的5.2.2节中有一个关于最小对比度估计量一致性的定理。第5.4.2节讨论渐近正态性。我推荐并讨论我提到的其他估计量的另一个来源是范德法特的《渐近统计》一书。第5章介绍M估计量，这是他的最小对比度估计量的名称。

— DavidR 2011年

R^{n}

$\mathbb{R}^n$

l_{2}

$l_2$

我的意思是标准的欧几里得范数-为了明确起见，我将其更改为向量符号。

— DavidR 2011年

l

$l$