代数的条件期望的直觉

让是一个概率空间，给定一个随机变量和 -代数我们可以构造一个新的随机变量，这是条件期望值。$(\Omega,\mathscr{F},\mu)$$\xi:\Omega \to \mathbb{R}$$\sigma$$\mathscr{G}\subseteq \mathscr{F}$$E[\xi|\mathscr{G}]$

考虑的直觉到底是什么？我了解以下几点的直觉：$E[\xi|\mathscr{G}]$

（i） 其中是一个事件（概率为正）。$E[\xi|A]$$A$

（ii） 其中是离散随机变量。$E[\xi|\eta]$$\eta$

但是我无法可视化。我了解它的数学原理，并且了解它的定义方式是概括我们可以看到的更简单的情况。但是，尽管如此，我认为这种思维方式没有用。它对我来说仍然是一个神秘的对象。$E[\xi|\mathscr{G}]$

例如，让为的事件。形成 -algebra，由生成。那么等于如果等于如果。换句话说，如果，而如果。$A$$\mu(A)>0$$\sigma$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$A$$E[\xi|\mathscr{G}](\omega)$$\frac{1}{\mu(A)} \int_A \xi$$\omega \in A$$\frac{1}{\mu(A^c)} \int_{A^c} \xi$$\omega \not \in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A]$$\omega\in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A^c]$$\omega \in A^c$

令人困惑的部分是，所以为什么我们不只写？我们为什么要更换通过根据是否不，但不允许替换通过？è [ ξ | G ] （ω ）= E [ ξ | Ω ] = E [ ξ ] E [ ξ | G ] E [ ξ | 甲 或  甲Ç ] ω ＆Element; 甲é [ ξ | G ] E [ ξ $\omega \in \Omega$$E[\xi|\mathscr{G}](\omega) = E[\xi|\Omega] = E[\xi]$$E[\xi|\mathscr{G}]$$E[\xi| A\text{ or } A^c]$$\omega\in A$$E[\xi|\mathscr{G}]$$E[\xi]$

注意。在回答这个问题时，请不要使用条件期望的严格定义对此进行解释。我明白那个。我想了解的是，条件期望应该计算什么，为什么我们拒绝一个代替另一个。

考虑条件表示的一种方法是作为对代数的投影。$\sigma$$\mathscr{G}$

（来自维基共享资源）

当谈论平方可积随机变量时，这实际上是严格正确的。在这种情况下，实际上是随机变量在的子空间上的正交投影，该子空间包含相对于可测量的随机变量。实际上，通过近似随机变量，对于随机变量在某种意义上甚至是正确的。$\mathbb{E}[\xi|\mathscr{G}]$$\xi$ģ 大号1 大号$L^2(\Omega)$$\mathscr{G}$$L^1$$L^2$

（请参阅注释以获取参考。）

如果人们认为代数代表了我们可获得的信息量（这种解释在随机过程理论中是必需的），则代数越大意味着可能发生的事件越多，因此关于可能的结果的信息也就越多代数意味着更少的可能事件，因此也更少了有关可能结果的信息。σ - σ $\sigma-$$\sigma-$$\sigma-$

因此，将可测量的随机变量投影到较小的代数意味着，鉴于提供的信息较为有限，因此我们最好地猜测的值。。$\mathscr{F}$σ - G ^ ξ $\xi$$\sigma-$$\mathscr{G}$$\xi$$\mathscr{G}$

换句话说，仅给出的信息，的全部信息，在严格意义上是我们最好的可能猜出随机变量是什么。$\mathscr{G}$E [ ξ | G ] $\mathscr{F}$$\mathbb{E}[\xi|\mathscr{G}]$$\xi$

关于您的示例，我认为您可能会混淆随机变量及其值。随机变量是一个函数，其域是事件空间；它不是数字。换句话说，，而对于，。X ：Ω →交通- [R X ∈ { ˚F | f ：Ω → $X$$X: \Omega \to \mathbb{R}$ω ∈ Ω X （ω ）∈ $X \in \{f\ |\ f: \Omega \to \mathbb{R} \}$$\omega \in \Omega$$X(\omega)\in\mathbb{R}$

在我看来，条件期望的表示法确实很糟糕，因为它本身就是一个随机变量，也就是一个函数。相反，随机变量的（常规）期望是数字。对随机变量的条件期望与对相同随机变量的期望完全不同，即甚至不对 “类型检查”。E [ ξ $\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi]$

换句话说，使用符号表示常规和有条件的期望是对符号的极大滥用，这会导致很多不必要的混乱。$\mathbb{E}$

话虽如此，请注意是一个数字（随机变量的值是，但是是一个随机变量，但由于它是 -algebra ，因此它是一个常量随机变量（即小简并并）。由生成，是微不足道的/简并的，然后从技术上讲，此常量随机变量的常量值为，其中E [ ξ | ģ ] ω ë [ ξ | Ω ] σ $\mathbb{E}[\xi|\mathscr{G}](\omega)$$\mathbb{E}[\xi|\mathscr{G}]$$\omega$$\mathbb{E}[\xi|\Omega]$$\sigma$$\Omega$ë [ ξ ] $\{ \emptyset, \Omega\}$$\mathbb{E}[\xi]$$\mathbb{E}$ 表示常规期望，因此表示数字，不是条件期望，因此不是随机变量。

您似乎也对含义感到困惑；从技术上讲，只能以代数而不是单个事件为条件，因为概率测度仅在完整的代数上定义，而不是在单个事件上定义。因此，只是简写（懒惰），其中代表生成的代数通过事件，即。注意 ; 换句话说，，σ - σ - è [ ξ | A ] E [ ξ | σ （A ）] σ （A ）σ - A { ∅ ，A ，A c，Ω } σ （A ）= G = σ （A c）E [ ξ | 一] $\mathbb{E}[\xi|A]$$\sigma-$$\sigma-$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\sigma(A)]$$\sigma(A)$$\sigma-$$A$$\{ \emptyset, A, A^c, \Omega\}$$\sigma(A) = \mathscr{G} = \sigma(A^c)$$\mathbb{E}[\xi|A]$E [ ξ | 甲Ç$\mathbb{E}[\xi|\mathscr{G}]$和都是表示同一对象的不同方法。$\mathbb{E}[\xi|A^c]$

最后，我只想补充一下，我上面给出的直观解释解释了为什么随机变量只是数字 -代数代表我们可能拥有的最少信息量，实际上基本上没有任何信息，因此在这种极端情况下，我们可以对哪个随机变量是常量随机变量进行最佳猜测，常量变量的常量值为。ë [ ξ ] σ $\mathbb{E}[\xi|\Omega]=\mathbb{E}[\xi|\sigma(\Omega)]= \mathbb{E}[\xi| \{ \emptyset, \Omega\}]$$\mathbb{E}[\xi]$$\sigma-$ξ ë [ ξ $\{ \emptyset, \Omega\}$$\xi$$\mathbb{E}[\xi]$

请注意，所有常量随机变量都是随机变量，并且它们对于琐碎 -algebra都是可测量的，因此，的确，我们确实具有常量随机是在的子空间上的正交投影，该子空间由相对于可测量的随机变量组成，如所要求的。 σ { ∅ ，Ω } ë [ ξ ] ξ 大号2（Ω ）{ ∅ ，Ω $L^2$$\sigma$$\{\emptyset, \Omega\}$$\mathbb{E}[\xi]$$\xi$$L^2(\Omega)$$\{\emptyset, \Omega\}$

我将尝试阐述威廉的建议。

令为抛硬币两次的样本空间。定义运行。变种 为数字。实验中出现的脑袋数。显然，。一种关于思维的思维方式。值表示为的最佳估计。如果我们不得不猜测将取什么值，我们将猜测。这是因为对于任何实数。ξ ë [ ξ ] = 1 1 ξ ξ 1 ë [ （ξ - 1 ）$\Omega$$\xi$$E[\xi] = 1$$1$$\xi$$\xi$$1$$E[(\xi - 1)^2] \leq E[(\xi - a)^2]$$a$

用表示第一个结果是正面的情况。令为 -alg。gen。由。我们认为代表了第一次抛球后我们所知道的。第一次抛球后，要么出现头，要么没有头。因此，我们在第一次掷球之后处于事件或。G = { ∅ ，A ，A c，Ω } $A = \{ HT, HH \}$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$\sigma$ģ甲甲$A$$\mathscr{G}$$A$$A^c$

如果我们在事件，然后为最佳估算是，如果我们在事件，那么最好的估计是。ξ è [ ξ | 甲] = 1.5 甲$A$$\xi$$E[\xi|A] = 1.5$$A^c$ë [ ξ | A c ] = $\xi$$E[\xi|A^c] = 0.5$

现在定义运行。变种 为或具体取决于。跑了 变种 因为，所以比更好。1.5 0.5 ω ＆Element; 甲η 1 = ë [ ξ ] ë [ （ξ - η ）2 ] ≤ ë [ （ξ - 1 ）2$\eta(\omega)$$1.5$$0.5$$\omega\in A$$\eta$$1 = E[\xi]$$E[(\xi - \eta)^2] \leq E[(\xi -1)^2]$

什么正在做的是提供问题的答案：什么是最好的估计第一折腾？因为我们不知道第一次投掷后的信息，将取决于。一旦向我们揭示了事件，在第一次抛掷之后，就确定了的值，并为提供了最佳的估计。 ξ η 甲ģ η $\eta$$\xi$$\eta$$A$$\mathscr{G}$$\eta$$\xi$

使用作为自己的估计，即的问题如下。第一次折腾后的定义不明确。假设实验的结果是，第一个结果是正面，我们在事件，但是我们不仅仅从一开始就知道该值对我们来说是模棱两可的，因此的定义不明确。更正式地说，我们说不是可测量的，即，它的值在第一次抛掷之后并没有明确定义。因此，是的最佳估计0 = ë [ （ξ - ξ ）2 ] ≤ ë [ （ξ - η ）2 ] ξ ω 甲ξ （ω ）= $\xi$$0=E[(\xi - \xi)^2] \leq E[(\xi - \eta)^2]$$\xi$$\omega$$A$$\xi(\omega)=?$ξ ģ η $\xi$$\xi$$\mathscr{G}$$\eta$$\xi$ 第一次折腾之后。

也许，这里的人可以使用样本空间提出一个更复杂的示例，其中，而一些非平凡的代数。ξ （ω ）= ω ģ$[0,1]$$\xi (\omega) = \omega$$\mathscr{G}$$\sigma$

尽管您要求不使用形式定义，但我认为形式定义可能是解释它的最佳方法。

维基百科-条件期望：

然后X的条件期望给定，表示为，是任何满足以下要求的函数（）： E（X∣ H$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \operatorname {E} (X\mid {\mathcal {H}})$ Ω→交通 ř $\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \Omega \to \mathbb {R} ^{n}$

$\displaystyle \int _{H}\operatorname {E} (X\mid {\mathcal {H}})\;dP=\int _{H}X\;dP\qquad {\text{for each}}\quad H\in {\mathcal {H}}$

首先，它是一个可测量的函数。其次，它必须匹配每个可测量（子）集的期望。因此，对于一个事件A，西格玛代数是，因此很显然，它是按您为指定的问题进行设置的。类似地，对于任何离散随机变量（及其组合），我们列出所有原始事件并在给定原始事件的情况下分配期望值。ħ {甲，甲Ç，∅，Ω}ω＆Element;阿/甲$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle {\mathcal {H}}$$\{A,A^C,\emptyset, \Omega\}$$\omega \in A/A^c$

现在考虑无限次抛硬币，每次抛i时，您将获得，如果硬币是尾巴，则总奖金为，其中 = 1表示尾部，0表示头部。那么X是上的实数随机变量。抛硬币n次后，您知道X的精度为，例如，抛硬币2次后，X的值为[0,1 / 4]，[1 / 4,1 / 2]，[1/2， 3/4]或[3 / 4,1]-每次抛硬币后，关联的sigma代数就越来越小，同样，对X的条件期望也越来越精确。 X = ＆Sigma; ∞ 我= 1$1/2^i$Ç我[0，1]1/2$X=\sum _{i=1}^\infty \frac{1}{2^i}c_i$$c_i$$[0,1]$$1/2^n$

希望这个带有sigma代数序列的实值随机变量示例越来越精细（过滤）使您摆脱了习惯于纯粹基于事件的直觉，并阐明了其目的。