UMVUE

让 $(X_1,X_2,\ldots,X_n)$ 是从密度的随机样本
$f_{θ} (x) = θ x^{θ - 1} 1_{0 < x < 1}, θ > 0$ $f_{\theta}(x)=\theta x^{\theta-1}\mathbf1_{0<x<1}\quad,\,\theta>0$

我正在尝试找到的UMVUE $\frac{\theta}{1+\theta}$ 。

$(X_1,\ldots,X_n)$ 的联合密度为

\begin{aligned} f_{θ} (x_{1}, \dots, x_{n}) & = θ^{n} {(\prod_{i = 1}^{n} x_{i})}^{θ - 1} 1_{0 < x_{1}, \dots, x_{n} < 1} \\ = \exp [(θ - 1) \sum_{i = 1}^{n} \ln x_{i} + n \ln θ + \ln (1_{0 < x_{1}, \dots, x_{n} < 1})], θ > 0 \end{aligned}

$\begin{align} f_{\theta}(x_1,\cdots,x_n)&=\theta^n\left(\prod_{i=1}^n x_i\right)^{\theta-1}\mathbf1_{0<x_1,\ldots,x_n<1} \\&=\exp\left[(\theta-1)\sum_{i=1}^n\ln x_i+n\ln\theta+\ln (\mathbf1_{0<x_1,\ldots,x_n<1})\right],\,\theta>0 \end{align}$

随着人口的PDF $f_{\theta}$ 属于单参数指数族，这表明，对于一个完整的充分统计量 $\theta$ 是

T (X_{1}, \dots, X_{n}) = \sum_{i = 1}^{n} \ln X_{i}

$T(X_1,\ldots,X_n)=\sum_{i=1}^n\ln X_i$

由于 $E(X_1)=\frac{\theta}{1+\theta}$ ，首先想到 $E(X_1\mid T)$ 将给我的UMVUE $\frac{\theta}{1+\theta}$ 根据Lehmann-Scheffe定理，。不确定是否可以直接找到该条件期望，还是必须找到条件分布 $X_1\mid \sum_{i=1}^n\ln X_i$ 。

另一方面，我考虑了以下方法：

我们有 $X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies -2\theta\ln X_i\stackrel{\text{i.i.d}}{\sim}\chi^2_2$ ，使 $-2\theta\, T\sim\chi^2_{2n}$ 。

所以， $r$ 的阶原时刻 $-2\theta\,T$ 大约为零，作为使用卡方PDF计算是

E (- 2 θ T)^{r} = 2^{r} \frac{Γ (n + r)}{Γ (n)}, n + r > 0

$E(-2\theta\,T)^r=2^r\frac{\Gamma\left(n+r\right)}{\Gamma\left(n\right)}\qquad ,\,n+r>0$

因此，似乎对于 $r$ 不同整数选择，我将获得 $\theta$ 的不同整数幂的无偏估计量（和UMVUE）。例如， $E\left(-\frac{T}{n}\right)=\frac{1}{\theta}$ 和 $E\left(\frac{1-n}{T}\right)=\theta$ 直接给我的UMVUE $\frac{1}{\theta}$ 和 $\theta$ 。

现在，当 $\theta>1$ 我们有 $\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$ 。

我绝对可以得到的UMVUE $\frac{1}{\theta},\frac{1}{\theta^2},\frac{1}{\theta^3}$ 等。所以结合这些UMVUE是我能得到所需的UMVUE $\frac{\theta}{1+\theta}$ 。此方法有效吗？还是我应该继续第一种方法？由于UMVUE存在时是唯一的，因此两者都应给我相同的答案。

明确地说，我得到

E (1 + \frac{T}{n} + \frac{T^{2}}{n (n + 1)} + \frac{T^{3}}{n (n + 1) (n + 2)} + \dots) = 1 - \frac{1}{θ} + \frac{1}{θ^{2}} - \frac{1}{θ^{3}} + \dots

$E\left(1+\frac{T}{n}+\frac{T^2}{n(n+1)}+\frac{T^3}{n(n+1)(n+2)}+\cdots\right)=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

即，

E (\sum_{r = 0}^{\infty} \frac{T^{r}}{n (n + 1) . . . (n + r - 1)}) = \frac{θ}{1 + θ}

$E\left(\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\right)=\frac{\theta}{1+\theta}$

有没有可能是我需要的是UMVUE $\displaystyle\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}$ 当 $\theta>1$ ？

为 $0<\theta<1$ ，我会得到 $g(\theta)=\theta(1+\theta+\theta^2+\cdots)$ ，因此将UMVUE不同。

已经确信的是，在第一种方法的条件期望值不能直接找到，因为 $E(X_1\mid \sum\ln X_i=t)=E(X_1\mid \prod X_i=e^t)$ ，我已经着手寻找条件分布 $X_1\mid \prod X_i$ 。为此，我需要 $(X_1,\prod X_i)$ 的联合密度。

我用了变数 $(X_1,\cdots,X_n)\to (Y_1,\cdots,Y_n)$ 使得 $Y_i=\prod_{j=1}^i X_j$ 所有 $i=1,2,\cdots,n$ 。这导致关节支承的 $(Y_1,\cdots,Y_n)$ 是 $S=\{(y_1,\cdots,y_n): 0<y_1<1, 0<y_j<y_{j-1} \text{ for } j=2,3,\cdots,n\}$ 。

雅可比行列式结果为 $J=\left(\prod_{i=1}^{n-1}y_i\right)^{-1}$ 。

所以我得到的联合密度 $(Y_1,\cdots,Y_n)$ 作为

f_{Y} (y_{1}, y_{2}, \dots, y_{n}) = \frac{θ^{n} y_{n}^{θ - 1}}{\prod_{i = 1}^{n - 1} y_{i}} 1_{S}

$f_Y(y_1,y_2,\cdots,y_n)=\frac{\theta^n\, y_n^{\theta-1}}{\prod_{i=1}^{n-1}y_i}\mathbf1_S$

的联合密度 $(Y_1,Y_n)$ 因此是

f_{Y_{1}, Y_{n}} (y_{1}, y_{n}) = \frac{θ^{n} y_{n}^{θ - 1}}{y_{1}} \int_{0}^{y_{n - 2}} \int_{0}^{y_{n - 3}} \dots \int_{0}^{y_{1}} \frac{1}{y_{3} y_{4} . . . y_{n - 1}} \frac{d y_{2}}{y_{2}} \dots d y_{n - 2} d y_{n - 1}

$f_{Y_1,Y_n}(y_1,y_n)=\frac{\theta^n\,y_n^{\theta-1}}{y_1}\int_0^{y_{n-2}}\int_0^{y_{n-3}}\cdots\int_0^{y_1}\frac{1}{y_3y_4...y_{n-1}}\frac{\mathrm{d}y_2}{y_2}\cdots\mathrm{d}y_{n-2}\,\mathrm{d}y_{n-1}$

我可以在这里使用其他不同的转换方法来简化关节密度的计算吗？我不确定在这里是否进行了正确的转换。

根据评论部分的一些出色建议，我找到了 $(U,U+V)$ 的联合密度，而不是联合密度 $(X_1,\prod X_i)$ ，其中 $U=-\ln X_1$ 和 $V=-\sum_{i=2}^n\ln X_i$ 。

它立即看出 $U\sim\text{Exp}(\theta)$ 和 $V\sim\text{Gamma}(n-1,\theta)$ 是独立的。

的确， $U+V\sim\text{Gamma}(n,\theta)$ 。

对于 $n>1$ ，联合密度 $(U,V)$ 是

f_{U, V} (u, v) = θ e^{- θ u} 1_{u > 0} \frac{θ^{n - 1}}{Γ (n - 1)} e^{- θ v} v^{n - 2} 1_{v > 0}

$f_{U,V}(u,v)=\theta e^{-\theta u}\mathbf1_{u>0}\frac{\theta^{n-1}}{\Gamma(n-1)}e^{-\theta v}v^{n-2}\mathbf1_{v>0}$

改变变量，我得到 $(U,U+V)$ 的联合密度为

f_{U, U + V} (u, z) = \frac{θ^{n}}{Γ (n - 1)} e^{- θ z} (z - u)^{n - 2} 1_{0 < u < z}

$f_{U,U+V}(u,z)=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta z}(z-u)^{n-2}\mathbf1_{0<u<z}$

因此， $U\mid U+V=z$ 条件密度为

f_{U ∣ U + V} (u ∣ z) = \frac{(n - 1) (z - u)^{n - 2}}{z^{n - 1}} 1_{0 < u < z}

$f_{U\mid U+V}(u\mid z)=\frac{(n-1)(z-u)^{n-2}}{z^{n-1}}\mathbf1_{0<u<z}$

现在，我的UMVUE正是 $E(e^{-U}\mid U+V=z)=E(X_1\mid \sum_{i=1}^n\ln X_i=-z)$ ，因为我曾在文章开头提到的权利。

因此，剩下要做的就是找到

E (e^{- U} ∣ U + V = z) = \frac{n - 1}{z^{n - 1}} \int_{0}^{z} e^{- u} (z - u)^{n - 2} d u

$E(e^{-U}\mid U+V=z)=\frac{n-1}{z^{n-1}}\int_0^z e^{-u}(z-u)^{n-2}\,\mathrm{d}u$

但是根据Mathematica的观点，最后一个积分在伽马函数不完全方面具有封闭形式，我不知道现在该怎么办。

— 顽固原子
source

您应该继续第一种方法，找到

的条件分布。

，这是足够统计的形式，在此应用中可能更易于使用。

X_{[1]} | \prod X_{i}

$X_{[1]} | \prod X_i$

— jbowman

在介绍

那一点（早期），您应该注意使用变量

它们几乎与

T

$T$

Y_{i} = - \log X_{i} .

$Y_i=-\log X_i.$

分布，从而迅速降低您的问题考虑的联合分布

，其中

和

Γ (1)

$\Gamma(1)$

(U, U + V)

$(U,U+V)$

U \sim Γ (1)

$U\sim\Gamma(1)$

V \sim Γ (n - 1) .

$V\sim\Gamma(n-1).$ 这将简化剩下的两页数学，并为您提供快速解决方案的途径。

— ub

@whuber为了清楚起见，你是说我发现的密度

第一，并从该找到的密度

？我已经注意到了

的是用率指数变量

（这也是一个伽玛变量如你所说），但没想到与工作。

(- \ln X_{1}, - \ln X_{1} - \sum_{i = 2}^{n} \ln X_{i})

$(-\ln X_1,-\ln X_1-\sum_{i=2}^n\ln X_i)$

(X_{1}, \prod X_{i})

$(X_1,\prod X_i)$

- \ln X_{i}

$-\ln X_i$

θ

$\theta$

— StubbornAtom

@whuber但是我怎么才能

从

直接？

E (X_{1} ∣ . . .)

$E(X_1\mid ...)$

E (\ln X_{1} ∣ . . .)

$E(\ln X_1\mid ...)$

— StubbornAtom

@whuber请看一下我的编辑。我几乎完成了此操作，但不确定如何处理该积分。我相当有信心我的计算是正确的。

— StubbornAtom

Answers:

事实证明，我的原始帖子中的两种方法（我的初次尝试和另一种基于评论部分中的建议的尝试）都给出了相同的答案。我将在此处概述这两种方法，以完整解答该问题。

在这里，表示的伽马密度 $\text{Gamma}(n,\theta)$ 其中，和表示具有指数分布平均 $f(y)=\frac{\theta^n}{\Gamma(n)}e^{-\theta y}y^{n-1}\mathbf1_{y>0}$ $\theta,n>0$ $\text{Exp}(\theta)$ $1/\theta$ ，（）。显然，。 $\theta>0$ $\text{Exp}(\theta)\equiv\text{Gamma}(1,\theta)$

由于足以满足和 $T=\sum_{i=1}^n\ln X_i$ $\theta$ 根据Lehmann-Scheffe定理，是的UMVUE $\mathbb E(X_1)=\frac{\theta}{1+\theta}$ $\mathbb E(X_1\mid T)$ 。因此，我们必须找到这种有条件的期望。 $\frac{\theta}{1+\theta}$

我们注意到，。 $X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies-\ln X_i\stackrel{\text{i.i.d}}{\sim}\text{Exp}(\theta)\implies-T\sim\text{Gamma}(n,\theta)$

方法一：

令和，因此和是独立的。事实上，和 $U=-\ln X_1$ $V=-\sum_{i=2}^n\ln X_i$ $U$ $V$ $U\sim\text{Exp}(\theta)$ $V\sim\text{Gamma}(n-1,\theta)$ ，这意味着。 $U+V\sim\text{Gamma}(n,\theta)$

因此，。 $\mathbb E(X_1\mid \sum_{i=1}^n\ln X_i=t)=\mathbb E(e^{-U}\mid U+V=-t)$

现在我们找到的条件分布。 $U\mid U+V$

当和，联合密度为 $n>1$ $\theta>0$ $(U,V)$

\begin{aligned} f_{U, V} (u, v) & = θ e^{- θ u} 1_{u > 0} \frac{θ^{n - 1}}{Γ (n - 1)} e^{- θ v} v^{n - 2} 1_{v > 0} \\ = \frac{θ^{n}}{Γ (n - 1)} e^{- θ (u + v)} v^{n - 2} 1_{u, v > 0} \end{aligned}

$\begin{align}f_{U,V}(u,v)&=\theta e^{-\theta u}\mathbf1_{u>0}\frac{\theta^{n-1}}{\Gamma(n-1)}e^{-\theta v}v^{n-2}\mathbf1_{v>0}\\&=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta(u+v)}v^{n-2}\mathbf1_{u,v>0}\end{align}$

改变变量，立即可以看出的联合密度为 $(U,U+V)$

f_{U, U + V} (u, z) = \frac{θ^{n}}{Γ (n - 1)} e^{- θ z} (z - u)^{n - 2} 1_{0 < u < z}

$f_{U,U+V}(u,z)=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta z}(z-u)^{n-2}\mathbf1_{0<u<z}$

设为的密度。因此，条件密度为 $f_{U+V}(\cdot)$ $U+V$ $U\mid U+V=z$

\begin{aligned} f_{U ∣ U + V} (u ∣ z) & = \frac{f_{U, U + V} (u, z)}{f_{U + V} (z)} \\ = \frac{(n - 1) (z - u)^{n - 2}}{z^{n - 1}} 1_{0 < u < z} \end{aligned}

$\begin{align}f_{U\mid U+V}(u\mid z)&=\frac{f_{U,U+V}(u,z)}{f_{U+V}(z)}\\&=\frac{(n-1)(z-u)^{n-2}}{z^{n-1}}\mathbf1_{0<u<z}\end{align}$

因此，。 $\displaystyle\mathbb E(e^{-U}\mid U+V=z)=\frac{n-1}{z^{n-1}}\int_0^z e^{-u}(z-u)^{n-2}\,\mathrm{d}u$

也就是说，的UMVUE是 $\frac{\theta}{1+\theta}$ $\displaystyle\mathbb E(X_1\mid T)=\frac{n-1}{(-T)^{n-1}}\int_0^{-T} e^{-u}(-T-u)^{n-2}\,\mathrm{d}u\tag{1}$

方法二：

由于是一个完整的充分统计量 $T$ ，任何无偏估计 $\theta$ 是 $\frac{\theta}{1+\theta}$ 将是的UMVUE $T$ $\frac{\theta}{1+\theta}$ $-T$

E (- T)^{r} = \int_{0}^{\infty} y^{r} θ^{n} \frac{e^{- θ y} y^{n - 1}}{Γ (n)} d y = \frac{Γ (n + r)}{θ^{r} Γ (n)}, n + r > 0

$\mathbb E(-T)^r=\int_0^\infty y^r\theta^n\frac{e^{-\theta y}y^{n-1}}{\Gamma(n)}\,\mathrm{d}y=\frac{\Gamma(n+r)}{\theta^r\,\Gamma(n)},\qquad n+r>0$

$1/\theta^r$ $r\ge1$

$\theta>1$ $\displaystyle\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

$1/\theta^r$

E (1 + \frac{T}{n} + \frac{T^{2}}{n (n + 1)} + \frac{T^{3}}{n (n + 1) (n + 2)} + \dots) = 1 - \frac{1}{θ} + \frac{1}{θ^{2}} - \frac{1}{θ^{3}} + \dots

$\mathbb E\left(1+\frac{T}{n}+\frac{T^2}{n(n+1)}+\frac{T^3}{n(n+1)(n+2)}+\cdots\right)=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

即，È （∞ ＆Sigma; [R = 0 Ť

E (\sum_{r = 0}^{\infty} \frac{T^{r}}{n (n + 1) . . . (n + r - 1)}) = \frac{θ}{1 + θ}

$\mathbb E\left(\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\right)=\frac{\theta}{1+\theta}$

$\theta>1$ $\frac{\theta}{1+\theta}$ $g(T)=\displaystyle\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\tag{2}$

$0<\theta<1$

$(1)$ $(2)$ $n(n+1)(n+2)...(n+r-1)$ $n(n+1)(n+2)...(n+r-1)=\frac{\Gamma(n+r)}{\Gamma(n)}$ $(1)$ $(2)$

$(1)$ $(2)$

— 顽固原子
source

(1)

$(1)$

(2)

$(2)$

e^{- u}

$e^{-u}$

(2)

$(2)$

我想我们可以得到关于上位不完整伽玛函数的更紧凑的答案。使用第一种方法，我找到了表达式

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = (n - 1) \int_{0}^{1} z^{r} {(1 - r)}^{n - z} d r,

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right]=\left( n - 1 \right) \int_0^1 z^r \left( 1 - r \right)^{n-z}dr,$

z = e^{T} .

$z=e^T.$

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = \frac{e^{T} (n - 1)}{T^{n - 1}} [(n - 2)! - Γ (n - 1, T)]

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right] = \frac{e^T \left( n-1 \right)}{T^{n-1} } \left[ \left( n-2 \right) !-\Gamma \left(n-1,T \right) \right]$

$n$

Γ (n - 1, T) = \frac{Γ (n - 1)}{e^{T}} \sum_{j = 0}^{n - 2} \frac{T^{j}}{j!}

$\Gamma \left(n-1,T \right)=\frac{\Gamma \left(n-1 \right)}{e^T} \sum_{j=0}^{n-2} \frac{T^j}{j!}$

重写期望并简化，我们发现

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = \frac{Γ (n)}{T^{n - 1}} [e^{T} - \sum_{j = 0}^{n - 2} \frac{T^{j}}{j!}]

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right] = \frac{\Gamma \left( n \right)}{T^{n-1}} \left[ e^T-\sum_{j=0}^{n-2} \frac{T^j}{j!} \right]$

$(1)$ $(2)$ $n=2$ $n=3$ $(1)$

— 索克利
source

E [X_{1} ∣ x_{1} x_{2} \dots x_{n} = e^{T}],

$\operatorname E\left[ X_1\mid x_1x_2\cdots x_n=e^T \right],$

E [X_{1} ∣ X_{1} X_{2} \dots X_{n} = e^{T}] .

$\operatorname E\left[ X_1\mid X_1X_2\cdots X_n=e^T \right]. \qquad$

— 迈克尔·哈迪