这个问题提供了一个很好的机会来收集有关矩生成函数(mgf)的一些事实。
在下面的答案中,我们执行以下操作:
- 证明如果mgf对于至少一个(严格)正值
和一个负值是有限的,则所有正矩都是有限的(包括非积分矩)。X
- 证明上面第一项中的条件等价于尾部具有指数界的的分布。换句话说,的尾部下降的速度至少与指数随机变量下降速度一样快(最大为常数)。XXZ
- 如果满足条件1中的条件,请通过其mgf简要描述分布特征。
- 探索一些示例和反例以帮助我们的直觉,尤其是表明我们不应该对mgf的有限性缺乏过多的重视。
这个答案很长,对此我深表歉意。如果最好将其放置在例如博客文章或其他地方,请随时在评论中提供此类反馈。
mgf对这些时刻怎么说?
随机变量的mgf 定义为。请注意,始终存在,因为它是非负可测量函数的积分。但是,如果不是
有限的。如果它是有限的(在正确的位置),则对于所有(不一定是整数),绝对矩(因此也为有限)。这是下一个主张的主题。X∼Fm(t)=EetXm(t) p>0E|X|p<∞EXp
命题:如果存在和使得和,那么的所有阶的矩都存在并且是有限的。tn<0tp>0m(tn)<∞m(tp)<∞X
在探究证明之前,这里有两个有用的引理。
引理1:假设存在和。然后,对于任何,。
证明。这来自于凸度和积分的单调性。对于任何这样的,存在从而。但是,然后
因此,通过积分的单调性,。tntpt0∈[tn,tp]m(t0)<∞
ext0θ∈[0,1]t0=θtn+(1−θ)tp
et0X=eθtnX+(1−θ)tpX≤θetnX+(1−θ)etpX.
Eet0X≤θEetnX+(1−θ)EetpX<∞
因此,如果mgf在任意两个不同的点处是有限的,则对于这些点之间的间隔中的所有值都是有限的。
引理2(空间的嵌套Lp):对于,如果,则。
证明:此答案和相关注释中给出了两种方法。0≤q≤pE|X|p<∞E|X|q<∞
这给了我们足够的继续命题证明的能力。
命题的证明。如果并且如命题中所述存在,则取,我们通过第一个引理知道和。但是,
并且右侧由非负项组成,因此,特别是对于任何固定
现在,假设。积分的单调性产生。因此,所有tn<0tp>0t0=min(−tn,tp)>0m(−t0)<∞m(t0)<∞
e−t0X+et0X=2∑n=0∞t2n0X2n(2n)!,
k
e−t0X+et0X≥2t2k0X2k/(2k)!.
Ee−t0X+Eet0X<∞EX2k<∞甚至瞬间是有限的。引理2立即使我们能够“填补空白”,并得出结论,
所有时刻都必须是有限的。
X
结果
关于当前问题的结论是,如果任意时刻是无限的或不存在,我们可以立即
得出结论:在包含原点的开放区间中,mgf不是无限的。(这只是该命题的矛盾陈述。)X
因此,上述命题提供了“正确的”条件,以便基于的mgf 来谈论的矩。X
指数界尾巴和mgf
命题:通过MGF处于打开间隔有限
包含原点当且仅当的尾部被指数有界的,即,对于某些和。m(t)(tn,tp)FP(|X|>x)≤Ce−t0xC>0t0>0
证明。我们将分别处理右尾巴。左尾巴的处理完全类似。
(⇒)假设对于某些。然后,的右尾是指数有界的;换句话说,存在和这样
要看到这一点,请注意,对于任何,根据Markov不等式,
取和来完成证明的这个方向。m(t0)<∞t0>0FC>0b>0
P(X>x)≤Ce−bx.
t>0P(X>x)=P(etX>etx)≤e−txEetX=m(t)e−tx.
C=m(t0)b=t0
(⇐)假设存在和,从而
。然后,对于,
其中第一个等式源自a关于非负随机变量期望值的标准事实。选择任意使得 ; 那么,右侧的积分是有限的。C>0t0>0P(X>x)≤Ce−t0xt>0
EetX=∫∞0P(etX>y)dy≤1+∫∞1P(etX>y)dy≤1+∫∞1Cy−t0/tdy,
t0<t<t0
这样就完成了证明。
给定其mgf的分布唯一性注释
如果mgf在包含零的开放间隔中是有限的,则关联分布的特征在于其矩,即,它是唯一具有矩。一旦掌握了一些有关特征功能的事实(相对简单),标准证明就很短。可以在大多数现代概率文本(例如Billingsley或Durrett)中找到详细信息。此答案中讨论了几个相关的问题。μn=EXn
例子和反例
(a)对数正态分布:对于某些正态随机变量如果,则为对数正态分布。因此的概率为1。因为所有,这立即告诉我们对于所有,。因此,mgf在非负半线上是有限的(注意:我们仅使用的非负来确定这一事实,因此从所有非负随机变量中都是成立的。)XX=eYYX≥0e−x≤1x≥0m(t)=EetX≤1 t<0(−∞,0]X
但是,对于所有,。我们将标准对数正态作为典型案例。如果,则。通过变量的变化,我们有
对于并且足够大的,我们可以得到。但是,
对于任何,因此对于所有,mgf都是无限的。m(t)=∞ t>0x>0ex≥1+x+12x2+16x3
EetX=(2π)−1/2∫∞−∞eteu−u2/2du.
t>0uteu−u2/2≥t+tu∫∞Ket+tudu=∞
Kt>0
另一方面,对数正态分布的所有矩都是有限的。因此,对于上述命题的结论,mgf在大约零间隔内的存在不是必需的。
(b)对称对数正态:通过“对称化”对数正态分布,我们可以获得更极端的情况。考虑的密度,使得
从前面的示例不难看出,mgf 仅对于是有限的。但是,偶数矩与对数正态矩完全相同,奇数矩都为零!因此,MGF存在无处(除了在它总是存在的由来),但我们可以保证所有订单的有限时光。f(x)x∈R
f(x)=122π−−√|x|e−12(log|x|)2.
t=0
(c)柯西分布:该分布的mgf对于所有都是无限的,但绝对矩对于是有限的。用于MGF结果遵循,因为为,因此
的证明是相似的。(也许不太为人所知的是柯西确实存在的矩。请参见此答案t≠0E|X|pp≥1t>0ex≥x3/6x>0
EetX≥∫∞1t3x36π(1+x2)dx≥t312π∫∞1xdx=∞.
t<00<p<1 )
(d)半柯西分布:如果是(标准)柯西,则称半Cauchy随机变量。然后,从前面的示例可以很容易地看出对于所有 ; 但是,对于是有限的。 XY=|X|EYp=∞p≥1EetYt∈(−∞,0]