为什么Rao-Blackwell定理要求？

Rao-Blackwell定理指出

让是一个估计与所有。假设对于是足够的，并且让然后对于所有，不等式是严格的，除非是的函数 $\hat{\theta}$ $\theta$ $\Bbb E (\hat{\theta}^2) < \infty$ $\theta$ $T$ $\theta$ $\theta ^ * = \Bbb E (\hat{\theta}|T)$ $\theta$
$E (θ^{*} - θ)^{2} \leq E (\hat{θ} - θ)^{2}$ $\Bbb E (\theta^* - \theta )^2 \leq \Bbb E (\hat{\theta} - \theta )^2$ $\hat{\theta}$ $T$

如果我正确理解了该定理，则表明如果我有足够的统计量来计算，则给定的的条件期望值就是 $T$ $\theta$ $\hat{\theta}$ $T$ $\min_{\hat{\theta}} \Bbb E$ $(\hat{\theta}-\theta)^2$

我的问题

我是否纠正 $\theta^*$ 最小化 $\Bbb E$ $(\hat{\theta}-\theta)^2$ ？
为什么Rao-Blackwell定理要求 $\Bbb E(\hat{\theta}^2) < \infty$ ？
为什么不等式严格，除非 $\hat{\theta}$ 是的函数 $T$ ？

rao-blackwell

— 斯坦·顺派克
source

Rao-Blackwell定理

— 西安

找到什么？

min_{\hat{θ}} E

$\min_{\hat{\theta}} \Bbb E$

(\hat{θ} - θ)^{2}

$(\hat{\theta}-\theta)^2$

— Stan Shunpike，

Answers:

不，是比更好的估计器，但不一定是最好的（无论什么意思！） $\theta^*$ $\hat\theta$
如果估计量没有方差，则其风险是无限的，并且不能保证具有有限的风险（即使正如HorstGrünbusch在其评论中指出的那样，也可能发生）。 $\theta^*$
在有限方差下，由于方差分解为期望条件方差和条件期望方差的和，所以不等式很严格，除非预期条件方差为零，否则它等于仅是的函数。 $\hat\theta$ $var (\hat{θ}) = E_{T} [var (\hat{θ} | T)] + {var}_{T} (E [\hat{θ} | T]) = E_{T} [var (θ | T)] + {var}_{T} (θ^{*})$ $\text{var}(\hat\theta)=\mathbb{E}_T[\text{var}(\hat\theta|T)]+ \text{var}_T(\mathbb{E}[\hat\theta|T])=\mathbb{E}_T[\text{var}(\theta|T)]+\text{var}_T(\theta^*)$ $\hat\theta$ $T$

— 西安
source

广告2：为什么不可能？考虑作为估计量，其中和是无关的柯西分布rv。

E ({\hat{θ}}^{2} | T) < E ({\hat{θ}}^{2}) = \infty

$E(\hat{\theta}^2|T)<E(\hat{\theta}^2)=\infty$

\hat{θ} = X + C

$\hat{\theta} = X + C$

μ

$\mu$

X \sim N (μ, σ^{2})

$X \sim \mathcal{N}(\mu,\sigma^2)$

C

$C$

— HorstGrünbusch'16

@HorstGrünbusch当您使用时，为什么柯西片会消失？此外不是一个无偏估计。

T

$T$

\hat{θ}

$\hat{\theta}$

— dsaxton '16

@HorstGrünbusch在我看来，您的甚至没有条件期望（因为没有期望），因此是不确定的。

\hat{θ}

$\hat{\theta}$

∣ T

$\mid T$

C

$C$

θ^{*}

$\theta^\ast$

— Juho Kokkala '16

好的，我想要的只是没有差异的而不是没有期望的。）下面以，即学生t分布有2个自由度的和和的独立。充分统计显然是。然后，但是

C

$C$

C \sim t_{2}

$C \sim t_2$

E (C) = 0

$E(C)=0$

C

$C$

X

$X$

X

$X$

E (X + C | X) = E (X | X) + E (C | X) = X + E (C) = X

$E(X+C|X) = E(X|X) + E(C|X) = X + E(C) = X$

\infty = V a r (C) + V a r (X) = V a r (X + C) > V a r (X + C | X) = σ^{2}

$\infty=Var(C) + Var(X) = Var(X+C)>Var(X+C|X)=\sigma^2$

— HorstGrünbusch2016年

因此，我认为如果原始估计量具有无限方差，那么Rao-Blackwell估计量必然具有无限方差是错误的。（不过，即使两个方差都必然是无限仍然成立。）

\infty \leq \infty

$\infty \leq \infty$

— HorstGrünbusch2016年

注意，足够的统计数据并不是唯一的。琐碎地讲，全部数据就足够了，但是对它们的条件进行估计不会改变任何事情。因此，仅凭足够的统计数据不足以使均方误差最小。参见Lehmann-Scheffé定理，该定理在证明中使用Rao-Blackwell定理，具有足够的充分性（实际上是充分和完整的）。
如果两者都是无限的，那么弱的不平等总是正确的。但是，作为反例，您可以构造一个不是的函数但仍具有无限方差的足够统计量（这样，仅成立）。 $T$ $\leq$

以为例，其中和的移位随机变量，以及另一个独立的随机变量。要估计的参数是。原始估计量是。当然，足够的统计数字是。Rao-Blackwell估计量和都具有无限方差。因此，不平等将保持弱势。另一方面，不仅仅是功能 $C_1 \sim t_2 + \mu$ $t_2$ $E(C_1) = \mu$ $Var(C_1) = \infty$ $C_2 \sim t_2$ $\mu$ $\hat{\theta} = C_1 + C_2$ $C_1$ $E(\hat{\theta}|C_1)=C_1$ $\hat{\theta}$ $C_1+C_2$ $C_1$ ：它涉及另一个随机变量，因此与您询问第三个问题的最后一句是矛盾的。实际上，某些教科书允许原始估计量具有无限方差，但反过来它们不能说明成立的时间。 $<$

如果是的函数，则可以通过分解定理证明已经足够用于。因此，我们最终还是一无所获。除了这种情况之外，不等式是严格的，这是定理的非平凡断言。 $\hat{\theta}$ $T$ $\hat{\theta}$ $\theta$

— 霍斯特·格伦布施
source