力矩产生函数和方差的存在

28

具有有限均值和无穷方差的分布是否可以具有矩生成函数？那么具有有限均值和有限方差但无限高矩的分布呢？

variance moments mgf

— 氧化镁
source

4

提示：如果mgf存在于零附近的间隔中，例如对于某些说，则考虑的泰勒展开和积分的单调性以发现解。:)

(- t_{0}, t_{0})

$(-t_0,t_0)$

t_{0} > 0

$t_0 > 0$

e^{x}

$e^x$

— 主教

2

忽略收敛问题（仅将mgf作为正式幂级数考虑），如果任何时刻不存在，mgf可能是什么？

— ub

红衣主教能否请您提供一些有关您提出的建议的参考？

Answers:

51

这个问题提供了一个很好的机会来收集有关矩生成函数（mgf）的一些事实。

在下面的答案中，我们执行以下操作：

证明如果mgf对于至少一个（严格）正值和一个负值是有限的，则所有正矩都是有限的（包括非积分矩）。 $X$
证明上面第一项中的条件等价于尾部具有指数界的的分布。换句话说，的尾部下降的速度至少与指数随机变量下降速度一样快（最大为常数）。 $X$ $X$ $Z$
如果满足条件1中的条件，请通过其mgf简要描述分布特征。
探索一些示例和反例以帮助我们的直觉，尤其是表明我们不应该对mgf的有限性缺乏过多的重视。

这个答案很长，对此我深表歉意。如果最好将其放置在例如博客文章或其他地方，请随时在评论中提供此类反馈。

mgf对这些时刻怎么说？

随机变量的mgf 定义为。请注意，始终存在，因为它是非负可测量函数的积分。但是，如果不是 有限的。如果它是有限的（在正确的位置），则对于所有（不一定是整数），绝对矩（因此也为有限）。这是下一个主张的主题。 $X \sim F$ $m(t) = \mathbb E e^{tX}$ $m(t)$ $p > 0$ $\mathbb E |X|^p < \infty$ $\mathbb E X^p$

命题：如果存在和使得和，那么的所有阶的矩都存在并且是有限的。 $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$ $\tp > 0$ $m(\tn) < \infty$ $m(\tp) < \infty$ $X$

在探究证明之前，这里有两个有用的引理。

引理1：假设存在和。然后，对于任何，。证明。这来自于凸度和积分的单调性。对于任何这样的，存在从而。但是，然后因此，通过积分的单调性，。 $\tn$ $\tp$ $t_0 \in [\tn,\tp]$ $m(t_0) < \infty$
$e^x$ $t_0$ $\theta \in [0,1]$ $t_0 = \theta \tn + (1-\theta) \tp$

e^{t_{0} X} = e^{θ t_{n} X + (1 - θ) t_{p} X} \leq θ e^{t_{n} X} + (1 - θ) e^{t_{p} X} .

$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$

E e^{t_{0} X} \leq θ E e^{t_{n} X} + (1 - θ) E e^{t_{p} X} < \infty

$\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

因此，如果mgf在任意两个不同的点处是有限的，则对于这些点之间的间隔中的所有值都是有限的。

引理2（空间的嵌套 $L_p$ ）：对于，如果，则。证明：此答案和相关注释中给出了两种方法。 $0 \leq q \leq p$ $\mathbb E |X|^p < \infty$ $\mathbb E |X|^q < \infty$

这给了我们足够的继续命题证明的能力。

命题的证明。如果并且如命题中所述存在，则取，我们通过第一个引理知道和。但是，并且右侧由非负项组成，因此，特别是对于任何固定现在，假设。积分的单调性产生。因此，所有 $\tn < 0$ $\tp > 0$ $t_0 = \min(-\tn,\tp) > 0$ $m(-t_0) < \infty$ $m(t_0) < \infty$

e^{- t_{0} X} + e^{t_{0} X} = 2 \sum_{n = 0}^{\infty} \frac{t_{0}^{2 n} X^{2 n}}{(2 n)!},

$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$

k

$k$

e^{- t_{0} X} + e^{t_{0} X} \geq 2 t_{0}^{2 k} X^{2 k} / (2 k)! .

$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$

E e^{- t_{0} X} + E e^{t_{0} X} < \infty

$\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$

E X^{2 k} < \infty

$\mathbb E X^{2k} < \infty$ 甚至瞬间是有限的。引理2立即使我们能够“填补空白”，并得出结论，所有时刻都必须是有限的。

X

$X$

结果

关于当前问题的结论是，如果任意时刻是无限的或不存在，我们可以立即得出结论：在包含原点的开放区间中，mgf不是无限的。（这只是该命题的矛盾陈述。） $X$

因此，上述命题提供了“正确的”条件，以便基于的mgf 来谈论的矩。 $X$

指数界尾巴和mgf

命题：通过MGF处于打开间隔有限包含原点当且仅当的尾部被指数有界的，即，对于某些和。 $m(t)$ $(\tn,\tp)$ $F$ $\mathbb P( |X| > x) \leq C e^{-t_0 x}$ $C > 0$ $t_0 > 0$

证明。我们将分别处理右尾巴。左尾巴的处理完全类似。

$(\Rightarrow)$ 假设对于某些。然后，的右尾是指数有界的；换句话说，存在和这样要看到这一点，请注意，对于任何，根据Markov不等式，取和来完成证明的这个方向。 $m(t_0) < \infty$ $t_0 > 0$ $F$ $C > 0$ $b > 0$

P (X > x) \leq C e^{- b x} .

$\mathbb P(X > x) \leq C e^{-b x} \>.$

t > 0

$t > 0$

P (X > x) = P (e^{t X} > e^{t x}) \leq e^{- t x} E e^{t X} = m (t) e^{- t x} .

$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$

C = m (t_{0})

$C = m(t_0)$

b = t_{0}

$b = t_0$

$(\Leftarrow)$ 假设存在和，从而。然后，对于，其中第一个等式源自a关于非负随机变量期望值的标准事实。选择任意使得 ; 那么，右侧的积分是有限的。 $C >0$ $t_0 > 0$ $\mathbb P(X > x) \leq C e^{-t_0 x}$ $t > 0$

E e^{t X} = \int_{0}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} C y^{- t_{0} / t} d y,

$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$

t

$t$

0 < t < t_{0}

$0 < t < t_0$

这样就完成了证明。

给定其mgf的分布唯一性注释

如果mgf在包含零的开放间隔中是有限的，则关联分布的特征在于其矩，即，它是唯一具有矩。一旦掌握了一些有关特征功能的事实（相对简单），标准证明就很短。可以在大多数现代概率文本（例如Billingsley或Durrett）中找到详细信息。此答案中讨论了几个相关的问题。 $\mu_n = \mathbb E X^n$

例子和反例

（a）对数正态分布：对于某些正态随机变量如果，则为对数正态分布。因此的概率为1。因为所有，这立即告诉我们对于所有，。因此，mgf在非负半线上是有限的（注意：我们仅使用的非负来确定这一事实，因此从所有非负随机变量中都是成立的。） $X$ $X = e^Y$ $Y$ $X \geq 0$ $e^{-x} \leq 1$ $x \geq 0$ $m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$ $(-\infty,0]$ $X$

但是，对于所有，。我们将标准对数正态作为典型案例。如果，则。通过变量的变化，我们有对于并且足够大的，我们可以得到。但是，对于任何，因此对于所有，mgf都是无限的。 $m(t) = \infty$ $t > 0$ $x > 0$ $e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

E e^{t X} = (2 π)^{- 1 / 2} \int_{- \infty}^{\infty} e^{t e^{u} - u^{2} / 2} d u .

$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$

t > 0

$t > 0$

u

$u$

t e^{u} - u^{2} / 2 \geq t + t u

$t e^u - u^2/2 \geq t+tu$

\int_{K}^{\infty} e^{t + t u} d u = \infty

$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$

K

$K$

t > 0

$t > 0$

另一方面，对数正态分布的所有矩都是有限的。因此，对于上述命题的结论，mgf在大约零间隔内的存在不是必需的。

（b）对称对数正态：通过“对称化”对数正态分布，我们可以获得更极端的情况。考虑的密度，使得从前面的示例不难看出，mgf 仅对于是有限的。但是，偶数矩与对数正态矩完全相同，奇数矩都为零！因此，MGF存在无处（除了在它总是存在的由来），但我们可以保证所有订单的有限时光。 $f(x)$ $x \in \mathbb R$

f (x) = \frac{1}{2 \sqrt{2 π} | x |} e^{- \frac{1}{2} (\log | x |)^{2}} .

$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$

t = 0

$t = 0$

（c）柯西分布：该分布的mgf对于所有都是无限的，但绝对矩对于是有限的。用于MGF结果遵循，因为为，因此的证明是相似的。（也许不太为人所知的是柯西确实存在的矩。请参见此答案 $t \neq 0$ $\mathbb E|X|^p$ $p \geq 1$ $t > 0$ $e^x \geq x^3 / 6$ $x > 0$

E e^{t X} \geq \int_{1}^{\infty} \frac{t^{3} x^{3}}{6 π (1 + x^{2})} d x \geq \frac{t^{3}}{12 π} \int_{1}^{\infty} x d x = \infty .

$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$

t < 0

$t < 0$

0 < p < 1

$0 < p < 1$ ）

（d）半柯西分布：如果是（标准）柯西，则称半Cauchy随机变量。然后，从前面的示例可以很容易地看出对于所有 ; 但是，对于是有限的。 $X$ $Y = |X|$ $\mathbb E Y^p = \infty$ $p \geq 1$ $\mathbb E e^{tY}$ $t \in (-\infty,0]$

— 红衣主教
source

7

感谢您发布此内容-考虑到技术性，这很容易理解-做得很好。

— 2012年

您知道希尔伯特空间中mgf的任何结果吗？

— badatmath

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.

Licensed under cc by-sa 3.0 with attribution required.