关于样本自协方差函数的问题

我正在阅读时间序列分析书，样本自协方差的公式在书中定义为：

\hat{γ} (h) = n^{- 1} \sum_{t = 1}^{n - h} (x_{t + h} - \bar{x}) (x_{t} - \bar{x})

$\widehat{\gamma}(h) = n^{-1}\displaystyle\sum_{t=1}^{n-h}(x_{t+h}-\bar{x})(x_t-\bar{x})$

与对于。是平均值。 $\widehat{\gamma}(-h) = \widehat{\gamma}(h)\;$ $\;h = 0,1, ..., n-1$ $\bar{x}$

有人可以直观地解释为什么我们将总和除以而不是吗？这本书解释说，这是因为上面的公式是一个非负的确定函数，因此最好除以，但这对我来说还不清楚。有人可以证明这一点，还是可以举例说明？ $n$ $n-h$ $n$

对我而言，起初直观的事情就是除以。这是对自协方差的无偏估计吗？ $n-h$

time-series probability mathematical-statistics

— 杰普索米
source

如果你的时间序列是完全与所有其他，或是未知的，则总和必然在停止时在发生总和：将包含在总和中的下一项（对于）将具有和不是示例的一部分。

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

x_{i}

$x_i$

i < 1

$i < 1$

i > n

$i >n$

t = n - h

$t=n-h$

x_{t + h} = x_{n}

$x_{t+h}=x_n$

t = n - h + 1

$t=n-h+1$

x_{n - h + 1 + h} = x_{n + 1}

$x_{n-h+1+h}=x_{n+1}$

x_{n + 1}

$x_{n+1}$

— Dilip Sarwate

@Dilip我不认为这是问题所在：问题涉及在的定义中除以还是。

n

$n$

n - h

$n-h$

\hat{γ}

$\hat{\gamma}$

— whuber

$\widehat{\gamma}$ 用于创建协方差矩阵：给定“时间”，它估计随机向量（从随机字段获得）是矩阵。对于许多问题，例如预测，至关重要的是所有这些矩阵都必须是非奇异的。作为推定协方差矩阵，显然它们不能具有任何负特征值，因此它们都必须都是正定的。 $t_1, t_2, \ldots, t_k$ $X_{t_1}, X_{t_2}, \ldots, X_{t_k}$ $\left(\widehat{\gamma}(t_i - t_j), 1 \le i, j \le k\right)$

两个公式之间区别的最简单情况

\hat{γ} (h) = n^{- 1} \sum_{t = 1}^{n - h} (x_{t + h} - \bar{x}) (x_{t} - \bar{x})

$\widehat{\gamma}(h) = n^{-1}\sum_{t=1}^{n-h}(x_{t+h}-\bar{x})(x_t-\bar{x})$

和

{\hat{γ}}_{0} (h) = (n - h)^{- 1} \sum_{t = 1}^{n - h} (x_{t + h} - \bar{x}) (x_{t} - \bar{x})

$\widehat{\gamma}_0(h) = (n-h)^{-1}\sum_{t=1}^{n-h}(x_{t+h}-\bar{x})(x_t-\bar{x})$

当长度为时出现；例如，。对于和，计算很简单 $x$ $2$ $x = (0,1)$ $t_1=t$ $t_2 = t+1$

{\hat{γ}}_{0} = (\begin{array}{cc} \frac{1}{4} & - \frac{1}{4} \\ - \frac{1}{4} & \frac{1}{4} \end{array}),

$\widehat{\gamma}_0 = \left( \begin{array}{cc} \frac{1}{4} & -\frac{1}{4} \\ -\frac{1}{4} & \frac{1}{4} \end{array} \right),$

这是单数，而

\hat{γ} = (\begin{array}{cc} \frac{1}{4} & - \frac{1}{8} \\ - \frac{1}{8} & \frac{1}{4} \end{array})

$\widehat{\gamma} = \left( \begin{array}{cc} \frac{1}{4} & -\frac{1}{8} \\ -\frac{1}{8} & \frac{1}{4} \end{array} \right)$

它具有特征值和，因此它是正定的。 $3/8$ $1/8$

对于发生类似的现象，其中是正定的，而 _0-当应用于时间 -退化为等级的矩阵（其条目在和之间交替）。 $x = (0,1,0,1)$ $\widehat{\gamma}$ $\widehat{\gamma}_0$ $t_i = (1,2,3,4)$ $1$ $1/4$ $-1/4$

（这里有一个模式：任何形式出现问题。） $x$ $(a,b,a,b,\ldots,a,b)$

在大多数应用中，一系列观测值是如此之长，以至于对于大多数感兴趣的都远小于，和之间的差异并不重要。因此，在实践中，区别并不重要，并且从理论上讲，对正定性的需求会大大超过对无偏估计的任何期望。 $x_t$ $h$ $n$ $n^{-1}$ $(n-h)^{-1}$

— ub
source

我认为重要的是要注意，即使您将其除以nh，这两个估计量都是有偏估计量。

— 2013年

@Ran尽管您对这些估计量有偏见是正确的，但我不同意这是一个重要的问题：如上一段所述，很少有人会产生偏见。无偏估计量，使用

(n - h - 1)^{- 1}

$(n-h-1)^{-1}$ ，与

\hat{γ}

$\widehat{\gamma}$ 要么

{\hat{γ}}_{0}

$\widehat{\gamma}_0$ 。

— ub

很好的答案+1。补充一点可能是有用的

V {\hat{γ}}_{0} (h) = O (1 / (n - h))

$\mathbb{V} \hat{\gamma}_0(h) = O(1/(n-h))$ ，而

V \hat{γ} (h) = O (1 / n)

$\mathbb{V} \hat{\gamma}(h) = O(1/n)$ ，所以什么时候

h

$h$ 接近

n

$n$ ，估算器

{\hat{γ}}_{0} (h)

$\hat{\gamma}_0(h)$ 可能不稳定，而

\hat{γ} (h)

$\hat{\gamma}(h)$ 采样波动会一直很小

\forall h

$\forall h$ 。有关这一点的详细讨论，请参见例如Priestly（1981）“频谱分析和时间序列” p324

— Colin T Bowers