具有异方差测量误差的AR（1）过程

1.问题

我对变量进行了一些测量，其中，我通过MCMC获得了分布，为简单起见，我将其假设为均值的高斯和方差。$y_t$$t=1,2,..,n$$f_{y_t}(y_t)$$\mu_t$$\sigma_t^2$

对于这些观察，我有一个物理模型，例如，但是残差似乎是相关的；特别是，我有物理上的理由认为流程足以考虑相关性，因此我计划通过MCMC获得拟合系数，为此我需要可能性。我认为解决方案很简单，但是我不太确定（它看起来很简单，以至于我遗漏了一些东西）。$g(t)$$r_t = \mu_t-g(t)$$AR(1)$

2.推导可能性

零均值流程可写为： 其中，我假设。因此，要估计的参数为（在我的情况下，我还必须添加模型的参数，但这不是问题）。但是，我观察到的是变量 ，其中我假设和是已知的（测量误差）。因为是高斯过程，所以也是。我特别知道 X 吨 = φ X 吨- 1 + ε 吨，（1 ）ε 吨〜Ñ （0 ，σ 2 瓦特）θ = { φ ，σ 2 瓦特 } 克（吨）- [R 吨 = X 吨 + η 吨，（2 ）η 吨〜ñ $AR(1)$

$$X_t = \phi X_{t-1}+\varepsilon_t,\ \ \ (1)$$ $\varepsilon_t\sim N(0,\sigma_w^2)$$\theta = \{\phi,\sigma_w^2\}$$g(t)$ $$R_t = X_t+\eta_t,\ \ \ (2)$$ σ 2 吨 X吨ř吨X1〜Ñ（0，σ 2 瓦特 /[1-φ2]）$\eta_t\sim N(0,\sigma_t^2)$$\sigma_t^2$$X_t$$R_t$ $$X_1 \sim N(0,\sigma_w^2/[1-\phi^2]),$$ 因此， 接下来的挑战是获得的。要导出此随机变量的分布，请注意，使用等式。我可以写 使用等式。，并使用等式的定义。我可以这样写： 使用等式 在最后一个表达式中，我得到 因此， [R Ť | ř 吨- 1吨≠ 1 （2 ）X 吨- 1 = - [R 吨- 1 - η 吨- 1。（3 ）（2 ）（ $$R_1 \sim N(0,\sigma_w^2/[1-\phi^2]+\sigma_t^2).$$ $R_t|R_{t-1}$$t\neq 1$$(2)$ $$X_{t-1} = R_{t-1}-\eta_{t-1}.\ \ \ (3)$$ $(2)$$(1)$（3） - [R 吨 =φ（ ř 吨- 1 - η 吨- 1）+ ε 吨 + η 吨， - [R 吨| ř 吨- 1 =φ（ ř 吨- 1 - $$R_{t} = X_t+\eta_t = \phi X_{t-1}+\varepsilon_{t}+\eta_t.$$ $(3)$ $$R_{t} = \phi (R_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ $$R_t|R_{t-1} = \phi (r_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ ，因此， 最后，我可以将似然函数写为 L（\ theta）= f_ {R_1}（R_1 = r_1）\ prod_ {t = 2} ^ {n} f_ {R_ {t} | R_ {t-1}}（ R_t = r_t | R_ {t-1} = r_ {t-1}）， 其中f（\ cdot）是我刚刚定义的变量的分布，即，定义\ sigma'^ 2 = \ sigma_w ^ 2 / [1- \ phi ^ 2] + \ sigma_t ^ 2，f_ {R_1}（R_1 = r_1）= \ frac {1} {\ sqrt {2 \ pi \ sigma'^ 2}} \ text {exp} \ left（-\ frac {r_1 ^ 2} {2 \ sigma'^ 2} \ right）， 并定义\ sigma ^ 2（t）= \ sigma_w ^ 2 + \ sigma_t ^ 2- \ phi ^ 2 \ sigma ^ 2_ {t-1}， $$R_t|R_{t-1} \sim N(\phi r_{t-1},\sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}).$$ $$L(\theta) = f_{R_1}(R_1=r_1) \prod_{t=2}^{n} f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1}),$$ $f(\cdot)$$\sigma'^2 = \sigma_w^2/[1-\phi^2]+\sigma_t^2,$ $$f_{R_1}(R_1=r_1) = \frac{1}{\sqrt{2\pi \sigma'^2}}\text{exp}\left(-\frac{r_1^2}{2\sigma'^2}\right),$$ $\sigma^2(t) = \sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}$ $$f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1})=\frac{1}{\sqrt{2\pi \sigma^2(t)}}\text{exp}\left(-\frac{(r_t-\phi r_{t-1})^2}{2\sigma^2(t)}\right)$$

3.问题

1. 我的推算可以吗？除了模拟（似乎同意）之外，我没有其他资源可以比较，而且我不是统计学家！
2. 文献中对进程或进程有任何此类推导吗？甲ř 中号甲（1 ，1 $MA(1)$$ARMA(1,1)$通常可以针对这种情况进行的过程研究很好。$ARMA(p,q)$

1. 您处在正确的轨道上，但是在给定的情况下推导的分布时犯了一个错误：条件均值不是。它是，其中是您对上一个时期的的最佳估计。的值包括从先前的观察信息以及。（要了解这一点，请考虑和可以忽略不计的情况，因此您可以有效地估计固定均值。经过大量观察，关于的不确定性将小于R t − 1 ϕ r t − $R_t$$R_{t-1}$$\phi r_{t-1}$$\phi \widehat{x}_{t-1}$$\widehat{x}_{t-1}$$X$$\widehat{x}_{t-1}$$r_{t-1}$$\sigma_w$$\phi$$X$$\sigma_{\eta}$）。这可以先迷惑，因为你观察，而不是。这仅表示您正在处理状态空间模型。$R$$X$

2. 是的，有一个非常通用的框架用于使用带有高噪声观测值的线性高斯模型，称为卡尔曼滤波器。这适用于具有ARIMA结构的任何事物以及更多模型。对于卡尔曼滤波器，时变可以，但前提是它不是随机的。具有例如随机波动率的模型需要更通用的方法。要查看卡尔曼滤波器的推导方法，请尝试Durbin-Koopman或Harvey的第3章。用Harvey的表示法，您的模型具有，，，，和。 ž = 1 d = c ^ = 0 ħ $\sigma_{\eta}$$Z=1$$d=c=0$$H_t = \sigma_{\eta,t}^2$$T=\phi$$R=1$$Q=\sigma^2_w$

老实说，您应该使用BUG或STAN对此进行编码，而不用担心在那里。除非这是一个理论问题。