渐近协方差矩阵是什么？

渐近协方差矩阵等于参数估计值的协方差矩阵是真的吗？如果没有，那是什么？在这种情况下，协方差矩阵和渐近协方差矩阵有什么区别？提前致谢！

covariance asymptotics

— 莱斯利
source

渐近协方差矩阵是参数估计值采样分布的协方差矩阵的近似值，随着参数估计所基于的样本数量的增加，它会变得更好。

— tchakravarty 2015年

给定一个iid样本 $(X_1,\ldots,X_N)$ 从具有密度的参数分布 $f_\theta(\cdot)$ ， $\theta$ 是未知参数，估计量 $\hat{\theta}(X_1,\ldots,X_N)$ 均值分布 $\mu_n(\theta)$ 和方差-协方差矩阵 $\Sigma_n(\theta)$ 。所以 $\Sigma_n(\theta)$ 是的方差-协方差矩阵 $\hat{\theta}(X_1,\ldots,X_N)$ 在某种意义上说

E_{θ} [{\hat{θ} (X_{1}, \dots, X_{N}) - μ_{n} (θ)} {\hat{θ} (X_{1}, \dots, X_{N}) - μ_{n} (θ)}^{T}] = Σ_{n} (θ) .

$\mathbb{E}_\theta\left[ \left\{\hat{\theta}(X_1,\ldots,X_N)-\mu_n(\theta)\right\} \left\{\hat{\theta}(X_1,\ldots,X_N)-\mu_n(\theta)\right\}^{\text{T}} \right] = \Sigma_n(\theta)\,.$

现在，如果 $\hat{\theta}(X_1,\ldots,X_N)$ 是一个收敛的估计量，如果存在极限分布 $\hat{\theta}(X_1,\ldots,X_N)$ ，表示存在一个序列 $(\phi_n)$ 增加到 $+\infty$ , e.g., $\phi_n=\sqrt{n}$ , such that

ϕ_{n} {\hat{θ} (X_{1}, \dots, X_{N}) - μ_{n} (θ)} \overset{dist}{⟶} G_{θ}

$\phi_n\left\{\hat{\theta}(X_1,\ldots,X_N)-\mu_n(\theta)\right\}\stackrel{\text{dist}}{\longrightarrow} G_\theta$ where

G_{θ}

$G_\theta$ denotes a distribution indexed by

θ

$\theta$ and the limiting distribution of the l.h.s. This limiting distribution has a variance

Ξ_{θ}

$\Xi_\theta$ that is called the asymptotic variance.

— Xi'an
source

Why do you say "e.g.

ϕ_{n} = \sqrt{n}

$\phi_n=\sqrt n$ "? Shouldn't it always be

\sqrt{n}

$\sqrt n$ ？

— user56834

有些估算器的收敛速度快于或慢于

\sqrt{n}

$\sqrt{n}$ 如制服之一。

— 西安