和什么区别？

18

通常，和什么区别？ $E(X|Y)$ $E(X|Y=y)$

前者是函数，后者是函数？真是令人困惑。 $y$ $x$

conditional-expectation notation definition

— 신범준
source

嗯...后者不应该是x的函数，而是一个数字！我错了吗？

— 大卫，

23

粗略地说， $E(X \mid Y)$ 与的区别在于 $E(X \mid Y = y)$ 前者是随机变量，而后者在某种意义上是 $E(X \mid Y)$ 。例如，如果

(X, Y) \sim N (0, (1 ρ ρ 1))

$(X, Y) \sim \mathcal N\left(\mathbf 0, \begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}\right)$ ，然后是随机变量

E(X∣Y) $E(X \mid Y)$

E (X ∣ Y) = ρ Y .

$E(X \mid Y) = \rho Y.$ 相反，一旦观察到，我们将更可能对标量感兴趣。

Y=y $Y = y$

E(X∣Y=y)=ρy $E(X \mid Y = y) = \rho y$

也许这似乎是不必要的复杂性，但是将本身视为一个随机变量是使塔定律有意义的原因-括号内的东西是随机的，因此我们可以问一下它的期望是什么，而则没有随机性。在大多数情况下，我们可能希望计算 $E(X \mid Y)$ $E(X) = E[E(X \mid Y)]$ $E(X \mid Y = y)$

E (X ∣ Y = y) = \int x f X ∣ Y (x ∣ y) d x

$E(X \mid Y = y) = \int x f_{X\mid Y}(x \mid y) \ dx$

然后通过在结果表达式中“插入”随机变量代替来获得。正如之前的评论所暗示的那样，在如何严格定义这些内容并以适当的方式将它们链接在一起方面，可能会有些微妙的地方。由于基础理论的一些技术问题，这种情况倾向于以条件概率发生。 $E(X \mid Y)$ $Y$ $y$

— 家伙
source

8

假设 $X$ 和 $Y$ 是随机变量。

令 $y_0$ 为固定实数，例如 $y_0 = 1$ 。然后， $E[X\mid Y=y_0]= E[X\mid Y = 1]$ 是一个数：它是有条件的预期值的 $X$ 鉴于 $Y$ 具有值 $1$ 。现在，请注意其他一些固定实数 $y_1$ ，例如 $y_1=1.5$ ， $E[X\mid Y = y_1] = E[X\mid Y = 1.5]$ 将是条件预期值 $X$ 给出 $Y = 1.5$ （实数）。没有理由假设 $E[X\mid Y = 1.5]$ 和 $E[X\mid Y = 1]$ 具有相同的值。因此，我们也可以将 $E[X\mid Y=y]$ 作为实数函数 $g(y)$ 将实数 $y$ 映射到实数 $E[X\mid Y = y]$ 。请注意，在OP的疑问，声明 $E[X\mid Y = y]$ 是的函数 $x$ 是不正确的： $E[X\mid Y = y]$ 是的实值函数 $y$ 。

在另一方面， $E[X\mid Y]$ 是一个随机变量 $Z$ 这恰好是一个函数的随机变量的 $Y$ 。现在，每当我们写 $Z = h(Y)$ ，我们的意思是，每当随机变量 $Y$ 碰巧具有值 $y$ ，随机变量 $Z$ 具有值 $h(y)$ 。每当 $Y$ 取值 $y$ ，随机变量 $Z = E[X\mid Y]$ 取值 $E[X\mid Y = y] = g(y)$ 。因此， $E[X\mid Y]$ 只是随机变量 $Z = g(Y)$ 。需要注意的是 $E[X\mid Y]$ 是一个功能 $Y$ （不 $y$ 作为OP的问题的声明）。

作为一个简单的说明性示例，假设 $X$ 和 $Y$ 是具有联合分布离散随机变量

P (X = 0, Y = 0) P (X = 1, Y = 0) = 0.1, P (X = 0, Y = 1) = 0.2, = 0.3, P (X = 1, Y = 1) = 0.4.

$\begin{align} P(X=0,Y=0) &= 0.1,~~ P(X=0, Y=1) = 0.2,\\ P(X=1,Y=0) &= 0.3,~~ P(X=1,Y=1) = 0.4. \end{align}$ 注意，

X $X$ 和

Y $Y$ 分别是（依赖的）伯努利随机变量，其参数分别为

0.7 $0.7$ 和

0.6 $0.6$ ，因此

E[X]=0.7 $E[X] = 0.7$ 和

E[Y]=0.6 $E[Y] = 0.6$ 。现在，请注意，条件为

Y=0 $Y=0$ ，

X $X$ 是与参数伯努利随机变量

0.75 $0.75$ 而空调上

Y=1 $Y = 1$ ，

X $X$ 是具有参数伯努利随机变量

23 $\frac 23$ 。如果您不明白为什么会这样，请计算出详细信息：例如

P (X = 1 ∣ Y = 0) = P ( X = 1 , Y = 0 ) P ( Y = 0 ) = 0.3 0.4 = 3 4, P (X = 0 ∣ Y = 0) = P ( X = 0 , Y = 0 ) P ( Y = 0 ) = 0.1 0.4 = 1 4,

$P(X=1\mid Y = 0) = \frac{P(X=1, Y=0)}{P(Y=0)} = \frac{0.3}{0.4} = \frac 34,\\ P(X=0\mid Y = 0) = \frac{P(X=0, Y=0)}{P(Y=0)} = \frac{0.1}{0.4} = \frac 14,$ 和

P(X=1∣Y=1) $P(X=1\mid Y=1)$ 和

P(X=0∣Y=1) $P(X=0\mid Y = 1)$ 相似。因此，我们有

E [X ∣ Y = 0] = 3 4, E [X ∣ Y = 1] = 2 3 .

$E[X\mid Y = 0] = \frac 34, \quad E[X \mid Y = 1] = \frac 23.$ 因此，

E[X∣Y=y]=g(y) $E[X\mid Y = y] = g(y)$ 其中

g(y) $g(y)$ 是具有以下性质的实值函数：

g (0) = 3 4, g (1) = 2 3 .

$g(0) = \frac 34, \quad g(1) = \frac 23.$

另一方面， $E[X\mid Y] = g(Y)$ 是一个随机变量 ，其值为 $\frac 34$ 和 $\frac 23$ 的概率分别为 $0.4 = P(Y=0)$ 和 $0.6 = P(Y=1)$ 。注意， $E[X\mid Y]$ 是离散随机变量，但不是伯努利随机变量。

最后，请注意

E [Z] = E [E [X ∣ Y]] = E [g (Y)] = 0.4 \times 3 4 + 0.6 \times 2 3 = 0.7 = E [X] .

$E[Z] = E\left[E[X\mid Y]\right] = E[g(Y)] = 0.4\times \frac 34 + 0.6\times \frac 23 = 0.7 = E[X].$ 也就是说，仅使用

的边际分布计算的

的该函数的期望值恰好具有与

相同的数值！这是一个更普遍的结果的例证，许多人认为这是一个LIE：

Y $Y$

E[X] $E[X]$

E [E [X ∣ Y]] = E [X] .

$E\left[E[X\mid Y]\right] = E[X].$

抱歉，这只是个小玩笑。LIE是“迭代期望法则”的首字母缩写，这是每个人都认为是事实的完全正确的结果。

— 迪利普·萨瓦特（Dilip Sarwate）
source

3

$E(X|Y)$ is the expectation of a random variable: the expectation of $X$ conditional on $Y$ . $E(X|Y=y)$ , on the other hand, is a particular value: the expected value of $X$ when $Y=y$ .

Think of it this way: let $X$ represent the caloric intake and $Y$ represent height. $E(X|Y)$ is then the caloric intake, conditional on height - and in this case, $E(X|Y=y)$ represents our best guess at the caloric intake ( $X$ ) when a person has a certain height $Y = y$ , say, 180 centimeters.

— abaumann
source

4

I believe your first sentence should replace "distribution" with "expectation" (twice).

— Glen_b -Reinstate Monica

4

E(X∣Y) $E(X\mid Y)$ isn't the distribution of

X $X$ given

Y $Y$ ; this would be more commonly denotes by the conditional density

fX∣Y(x∣y) $f_{X \mid Y} (x \mid y)$ or conditional distribution function.

E(X∣Y) $E(X \mid Y)$ is the conditional expectation of

X $X$ given

Y $Y$ , which is a

Y $Y$ -measurable random variable.

E(X∣Y=y) $E(X \mid Y = y)$ might be thought of as the realization of the random variable

E(X∣Y) $E(X \mid Y)$ when

Y=y $Y = y$ is observed (but there is the possibility for measure-theoretic subtlety to creep in).

— guy

1

@guy Your explanation is the first accurate answer yet provided (out of three offered so far). Would you consider posting it as an answer?

— whuber

@whuber I would but I'm not sure how to strike the balance between accuracy and making the answer suitably useful to OP and I'm paranoid about getting tripped up on technicalities :)

— guy

@Guy I think you have already done a good job with the technicalities. Since you are sensitive about communicating well with the OP (which is great!), consider offering a simple example to illustrate--maybe just a joint distribution with binary marginals.

— whuber

1

$E(X|Y)$ is expected value of values of $X$ given values of $Y$ $E(X|Y=y)$ is expected value of $X$ given the value of $Y$ is $y$

Generally $P(X|Y)$ is probability of values $X$ given values $Y$ , but you can get more precise and say $P(X=x|Y=y)$ , i.e. probability of value $x$ from all $X$ 's given the $y$ 'th value of $Y$ 's. The difference is that in the first case it is about "values of" and in the second you consider a certain value.

You could find the diagram below helpful.

Bayes theorem diagram form Wikipedia

— Tim
source

This answer discusses probability, while the question asks about expectation. What is the connection?

— whuber