移动平均模型误差项

17

这是Box-Jenkins MA模型的基本问题。据我了解，MA模型基本上是时间序列值对先前误差项的线性回归。也就是说，观测值首先针对其先前值回归，然后将一个或多个值用作MA的误差项模型。 $Y$ $e_t,..., e_{t-n}$ $Y$ $Y_{t-1}, ..., Y_{t-n}$ $Y - \hat{Y}$

但是，如何在ARIMA（0，0，2）模型中计算误差项？如果使用MA模型时没有自回归部分，因此没有估计值，那么我怎么可能有一个误差项？

— 罗伯特·库布里克
source

1

不，我认为您对MA（n）模型的定义感到困惑，在该模型中，回归仅根据进行估计，而是根据数据进行估计。

e_{t - i}

$e_{t-i}$

e_{t - i}

$e_{t-i}$

— 西安

1

问题中的主要问题是您说MA模型基本上是线性回归。这是完全不正确的，因为我们没有遵守错误条件。

— mpiktas 2012年

我认为误差项是实际，其中

Y_{t} - \hat{Y_{t}}

$Y_t - \hat{Y_t}$

\hat{Y}

$\hat{Y}$ 是

E (Y | Y_{t, . . ., t - n})

$E(Y|Y_{t,...,t-n})$ 或者干脆

Y_{t} - Y_{t - 1}

$Y_t - Y_{t-1}$ 。这就是为什么从

Y

$Y$ 偏自相关函数中的重复模式（即残差的行为）得出MA模型参数估计的原因。相反，AR参数估计是基于acf（Y）的重复模式。

— 罗伯特·库布里克

20

MA模型估计：

让我们假设一个具有100个时间点的序列，并说它的特征在于没有截距的MA（1）模型。然后该模型由

y_{t} = ε_{t} - θ ε_{t - 1}, t = 1, 2, \dots, 100 (1)

$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$

没有观察到错误项。为此，Box等人。时间序列分析：预测和控制（第3版），第228页，建议误差项通过以下方式递归计算：

ε_{t} = y_{t} + θ ε_{t - 1}

$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$

因此，对于误差项是，现在我们不能在不知道的值计算该。因此，要获得此结果，我们需要计算模型的初始或初步估计，请参考Box等。在上述书籍的第6.3.2节第202页中指出， $t=1$

ε_{1} = y_{1} + θ ε_{0}

$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$

θ

$\theta$

已经示出了第一 MA（的自相关）过程是非零的，并且可以在模型中作为的参数方面写入 $q$ $q$ 上述用于表达而言，用品等式未知数。的初步估计 S可通过替代估计来获得为在上述方程
$ρ_{k} = \frac{- θ_{k} + θ_{1} θ_{k + 1} + θ_{2} θ_{k + 2} + \dots + θ_{q - k} θ_{q}}{1 + θ_{1}^{2} + θ_{2}^{2} + \dots + θ_{q}^{2}} k = 1, 2, \dots, q$ $\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$ $\rho_1,\rho_2\cdots,\rho_q$ $\theta_1,\theta_2,\cdots,\theta_q$ $q$ $q$ $\theta$ $r_k$ $\rho_k$

注意，是估计的自相关。第6.3节-参数的初始估计中有更多讨论，请继续阅读。现在，假设我们获得初始估计值。然后，现在，另一个问题是，我们没有值，因为开始于1，所以我们不能计算。幸运的是，有两种方法可以得到这个， $r_k$ $\theta=0.5$

ε_{1} = y_{1} + 0.5 ε_{0}

$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$

ε_{0}

$\varepsilon_0$

t

$t$

ε_{1}

$\varepsilon_1$

有条件的可能性
无条件可能性

根据Box等。第7.1.3节227页，的值可以被取代以零作为近似如果适中或大的，该方法是有条件的似然。否则，无条件似然被使用，其中，所述值是由背预测，盒等获得。推荐这种方法。在第231页的7.1.4节中了解有关反向预测的更多信息。 $\varepsilon_0$ $n$ $\varepsilon_0$

获得初始估计和的值之后，然后终于可以与误差项的递归计算继续。然后最后阶段是估计模型的参数，请记住这不再是初步估计。 $\varepsilon_0$ $(1)$

在估计参数，我使用了非线性估计程序，尤其是Levenberg-Marquardt算法，因为MA模型的参数是非线性的。 $\theta$

总体而言，我强烈建议您阅读Box等。时间序列分析：预测和控制（第3版）。

— 艾哈迈德盖德·阿萨德（Al-Ahmadgaid Asaad）
source

你能解释什么是

吗？

r_{k}

$r_k$

— Piyush Divyanakar '18

4

高斯MA（q）模型定义（不仅由方块和詹金斯！）作为这样的MA（q）模型是“纯”的错误模型，该程度定义多远的相关性返回。

Y_{t} = - \sum_{i = 1}^{q} ϑ_{i} e_{t - i} + σ e_{t}, e_{t} \overset{iid}{\sim} N (0, 1)

$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$

q

$q$

— 西安
source

1

我仍然不明确地方

得来的。是

的随机变量？我不这么认为，否则为什么要麻烦寻找

相关性呢？

e_{t}

$e_t$

e_{t}

$e_t$

q

$q$

— 罗伯特·库布里克

1

为什么您的公式中有减号？通常减号适用于AR模型。数学上不是问题，我只是好奇，因为我从未见过MA模型的缺点。

— mpiktas 2012年

3

@RobertKubrick，您知道沃尔德分解定理吗？每一个平稳过程都有其相应的创新过程，也就是从那里方面

来。

e_{t}

$e_t$

— mpiktas 2012年

1

@mpiktas谢谢，这为错误术语提供了一些背景知识，但是我仍然不清楚创新过程来自何处，要想存在一项创新，就必须在某个地方进行预测（en.wikipedia.org/wiki/Innovation_（ signal_processing））。最优

预测是否只是

，即序列的均值？

Y

$Y$

E (Y)

$E(Y)$

— 罗伯特·库布里克

1

$Y$ $Y_{t−1},...,Y_{t−n}$ $Y−\hat{Y}$ $Y$ $e_{t-1}$ $e_{t−2}$ $e_t$ $\theta_1$ $e_{t-1}$ $\theta_2$ $e_{t-2}$ $e_t$ $\theta_1$ $\theta_2$ $\theta_1$ $\theta_2$ 。

— 爱尔兰统计局
source

另外2个预测变量系列是什么？我之所以问是因为，当我阅读文献时，从来没有明确指出。这2个其他系列与

Y

$Y$ ？我的印象是，所有ARIMA配方都限于

Y

$Y$ 系列。

— Robert Kubrick

1

The 2 predictors are the lags of the error terms. Since these are not known a priori since we do not know the error terms before we begin is why this has to be treated by non-linear estimation.The confusion you are having is that a model that is finite in the past ( i.e. an AR MODEL ) is potentially infinite in the errors AND a model that is finite in the errors ( i.e. an MA MODEL) is potentially infinite in the past of Y.The reason one selects an AR MODEL versus an MA MODEL is for parsimony. Sometimes we construct an ARMA MODEL which blends both the history of Y and the history of the errors.

— IrishStat

1

As I commented in the other answer, what I am still missing is what's the optimal forecast for

Y

$Y$ , which is used to calculate the innovation

e_{t - n}

$e_{t-n}$ .

— Robert Kubrick

1

有关如何理解MA系列中的干扰项的说明，请参见此处的我的帖子。

您需要不同的估算技术来估算它们。这是因为您不能先获取线性回归的残差，然后再将滞后的残差值用作解释变量，因为MA流程会使用当前回归的残差。在您的示例中，您正在制作两个回归方程，并使用一个残差到另一个残差。这不是MA流程。无法使用OLS进行估算。

— JoeDanger
source