两个高斯随机向量的内积的矩生成函数


Answers:


19

首先让我们解决。最后是对(任意)的(简单)泛化。Σ=σIΣ

首先观察内部乘积是iid变量的总和,每个变量都是两个独立的正态变量的乘积,从而简化了寻找后者的mgf的问题,因为总和的mgf为mgfs的乘积。(0,σ)

可以通过集成找到mgf,但是有一种更简单的方法。当和是标准法线时,XY

XY=((X+Y)/2)2((XY)/2)2

是两个独立缩放的卡方变量的差。(比例因子为因为的方差等于。)因为卡方变量的mgf为,所以mgf的是和的MGF 是。相乘,我们发现所需的mgf等于。1/2(X±Y)/21/21/12ω((X+Y)/2)21/1ω((XY)/2)21/1+ω1/1ω2

(作为以后的参考,请注意,当和用重新缩放时,它们的乘积将以缩放,而也应由缩放。)XYσσ2ωσ2

这看起来应该很熟悉:直到一些恒定因素和一个符号,它看起来像是自由度为的Student t分布的概率密度。(实际上,如果我们使用特性函数代替mgfs,我们将获得,它甚至更接近Student t PDF。)没关系,没有这样的东西作为具有 dfs 的学生t ,最重要的是mgf可以在的附近进行解析,而这显然是(根据二项式定理)。01/1+ω200

立即得出结论,这些iid高斯向量的内积分布的mgf等于该mgf 的乘积,nn

(1ω2σ4)n/2,n=1,2,.

通过查找 Student t分布的特征函数,我们可以推论出(用少量的代数或积分来找到归一化常数)PDF本身是由

fn,σ(x)=21n2|x|n12Kn12(|x|σ2)πσ4Γ(n2)

(是贝塞尔函数)。K

例如,这是该PDF的曲线图,叠加在这样的内积的随机样本的直方图上,其中和:105σ=1/2n=3

直方图

从模拟中很难确定mgf的准确性,但是请注意(根据二项式定理)

(1+t2σ4)3/2=13σ4t22+15σ8t4835σ12t616+315σ16t8128+,

从中我们可以读出瞬间(按阶乘划分)。由于关于的对称性,只有偶数矩很重要。对于我们获得以下值,以与该模拟的原始力矩进行比较:0σ=1/2

 k    mgf           simulation/k!
 2    0.09375       0.09424920
 4    0.00732422    0.00740436
 6    0.00053406    0.00054128
 8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

可以预料的是,模拟的高力矩将开始偏离mgf给定的力矩。但至少在第十个时刻之前,大家都达成了一致。


顺便提及,当,分布是双指数的。n=2


要处理一般情况,首先注意内积是与坐标无关的对象。因此,我们可以将的主要方向(特征向量)作为坐标。在这些坐标的内积是的总和独立的产品独立正常个变量,具有方差分布每个分量等于其相关联的本征值。因此,令非零特征值为(),mgf必须等于Σσ12,σ22,,σd20dn

(i=1d(1ω2σi4))1/2.

为了确认我在这个推理中没有出错,我举了一个例子,其中是矩阵Σ

(1121812114181412)

并计算出其特征值是

(σ12,σ22,σ32)=(116(17+65),116(1765),38)(1.56639,0.558609,0.375).

可以通过对特征函数的傅立叶变换(通过从此处给出的mgf公式得出)进行数值评估来计算PDF:下图以红线显示了该PDF的图形。同时,我以正态分布生成 iid变量,以相同的方式生成另一个 iid变量,并计算出点积。该图显示了这些点积的直方图(省略了一些最极端的值-范围从到):106Xi(0,Σ)106Yi106XiYi1215

直方图和PDF

和以前一样,该协议非常出色。 此外,这些时刻可以很好地匹配到第八名,甚至在第十名也可以:

 k    mgf           simulation/k!
 2     1.45313       1.45208
 4     2.59009       2.59605
 6     5.20824       5.29333
 8    11.0994       11.3115
10    24.4166       22.9982

附录

(2013年8月9日新增。)

fn,σ方差-伽马分布的一个实例,最初被定义为“正常方差-均值混合,其中混合密度为伽马分布”。它具有标准位置(),不对称参数(对称),比例参数和形状参数(根据Wikipedia参数化)。00σ2n/2


1
大家好,非常感谢您的详细解释。不过,我有一个疑问。当通用时,内积之和展开中的项不再是同义的;因此,总和的mgf不再是mgfs的乘积。然后,如何将上述分析推广到更通用的Sigma?Σ
Abhibhat

我添加了一个新的部分,以提供此概括的一些(简单)细节,以使此处没有任何新内容变得清楚。在数据也具有非零均值的情况下,您还可以使用mgfs的基本属性来写下mgf,从而完全解决问题。
ub
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.