关于方差加权的问题

假设我们要对一个未观察到的实现进行推断 $x$ 随机变量 $\tilde x$ ，通常以均值分布 $\mu_x$ 和方差 $\sigma^2_x$ 。假设还有另一个随机变量 $\tilde y$ （我们将其未被观察到的实现称为 $y$ ）的均值正态分布 $\mu_y$ 和方差 $\sigma^2_y$ 。让 $\sigma_{xy}$ 是...的协方差 $\tilde x$ 和 $\tilde y$ 。

现在假设我们观察到一个信号 $x$ ，

\begin{aligned} a = x + \tilde{u}, \end{aligned}

$\begin{align}a=x+\tilde u,\end{align}$ 哪里

\tilde{u} \sim N (0, ϕ_{x}^{2})

$\tilde u\sim\mathcal{N}(0,\phi_x^2)$ ，并在

y

$y$ ，

\begin{aligned} b = y + \tilde{v}, \end{aligned}

$\begin{align}b=y+\tilde v,\end{align}$ 哪里

\tilde{v} \sim N (0, ϕ_{y}^{2})

$\tilde v\sim\mathcal{N}(0,\phi_y^2)$ 。假使，假设

\tilde{u}

$\tilde u$ 和

\tilde{v}

$\tilde v$ 是独立的。

的分布是什么 $x$ 有条件的 $a$ 和 $b$ ？

到目前为止，我所知道的是： 使用反方差加权，

\begin{aligned} E (x | a) = \frac{\frac{1}{σ_{x}^{2}} μ_{x} + \frac{1}{ϕ_{x}^{2}} a}{\frac{1}{σ_{x}^{2}} + \frac{1}{ϕ_{x}^{2}}}, \end{aligned}

$\begin{align}\mathbb{E}(x\,|\,a)=\frac{\frac{1}{\sigma_x^2}\mu_x+\frac{1}{\phi_x^2}a}{\frac{1}{\sigma_x^2}+\frac{1}{\phi_x^2}},\end{align}$ 和

\begin{aligned} V ar (x | a) = \frac{1}{\frac{1}{σ_{x}^{2}} + \frac{1}{ϕ_{x}^{2}}} . \end{aligned}

$\begin{align} \mathbb{V}\text{ar}(x\,|\,a)=\frac{1}{\frac{1}{\sigma_x^2}+\frac{1}{\phi_x^2}}. \end{align}$

以来 $x$ 和 $y$ 共同绘制 $b$ 应该携带一些有关 $x$ 。除了意识到这一点，我还被困住了。任何帮助表示赞赏！

meta-analysis

— bad_at_math
source

这看起来很像卡尔曼滤波器推导的前几个步骤。您可能会看一下推导，并考虑状态协方差估计更新的卡尔曼增益。cs.unc.edu/~welch/media/pdf/kalman_intro.pdf

— EngrStudent 2013年

谢谢回复！我在您的链接中阅读了文档，但是看不到与Kalman过滤的关联。您有机会详细说明吗？感谢您的帮助！

— bad_at_math 2013年

@EngrStudent如果OP不熟悉Kalman过滤器，我看不出会有什么帮助。也许您可以在不调用KF涉及的任何细节（或专业术语）的情况下，解释如何解决该问题，尽管也许可以利用您对KF的理解来指导此处的细节响应。

— Glen_b-恢复莫妮卡

在此处

— math.SE中

我不确定方差加权公式是否适用于此。但是我认为你可以计算出的条件分布 $x$ 给定 $a$ 和 $b$ 通过假设 $x$ ， $y$ ， $a$ 和 $b$ 遵循联合多元正态分布。

具体来说，如果您假设（与问题中指定的内容一致）

[\begin{matrix} x \\ y \\ u \\ v \end{matrix}] \sim N ([\begin{matrix} μ_{x} \\ μ_{y} \\ 0 \\ 0 \end{matrix}], [\begin{matrix} σ_{x}^{2} & σ_{x y} & 0 & 0 \\ σ_{x y} & σ_{y}^{2} & 0 & 0 \\ 0 & 0 & ϕ_{x}^{2} & 0 \\ 0 & 0 & 0 & ϕ_{y}^{2} \end{matrix}])

$\begin{equation} \left[\begin{matrix}x \\ y \\ u \\ v \end{matrix}\right] \sim N\left( \left[\begin{matrix}\mu_x \\ \mu_y \\ 0 \\ 0 \end{matrix}\right], \left[\begin{matrix} \sigma^2_x & \sigma_{xy} & 0 & 0 \\ \sigma_{xy} & \sigma^2_y & 0 & 0 \\ 0 & 0 & \phi^2_x & 0 \\ 0 & 0 & 0 & \phi^2_y \end{matrix}\right] \right) \end{equation}$ 然后，让

a = x + u

$a=x+u$ 和

b = y + v

$b=y+v$ ，您会发现

[\begin{matrix} x \\ a \\ b \end{matrix}] \sim N ([\begin{matrix} μ_{x} \\ μ_{x} \\ μ_{y} \end{matrix}], [\begin{matrix} σ_{x}^{2} & σ_{x}^{2} & σ_{x y} \\ σ_{x}^{2} & σ_{x}^{2} + ϕ_{x}^{2} & σ_{x y} \\ σ_{x y} & σ_{x y} & σ_{y}^{2} + ϕ_{y}^{2} \end{matrix}]) .

$\begin{equation} \left[\begin{matrix}x \\ a \\ b \end{matrix}\right] \sim N\left( \left[\begin{matrix}\mu_x \\ \mu_x \\ \mu_y \end{matrix}\right], \left[\begin{matrix} \sigma^2_x & \sigma^2_x & \sigma_{xy} \\ \sigma^2_x & \sigma^2_x + \phi^2_x & \sigma_{xy} \\ \sigma_{xy} & \sigma_{xy} & \sigma^2_y + \phi^2_y \end{matrix}\right] \right). \end{equation}$ （请注意，在上文中隐含地假设

u

$u$ 和

v

$v$ 彼此独立

x

$x$ 和

y

$y$ ）

由此您可以找到的条件分布 $x$ 给定 $a$ 和 $b$ 使用多元正态分布的标准属性（例如，请参见此处：http : //en.wikipedia.org/wiki/Multivariate_normal_distribution#Conditional_distributions）。

— ar
source