是否存在保留度量标准所有属性的概率距离?


13

在研究Kullback-Leibler距离时,我们很快学到了两件事,即它既不考虑三角形不等式也不考虑度量的对称性和要求的属性。

我的问题是,是否有满足所有度量约束的概率密度函数度量


关注概率密度就是关注“错误的”对象。至于度量,有“经典”度量,例如Lévy(以及有关随机变量的相关Ky Fan度量),Wasserstein和在精神上更接近KL的度量,例如Jensen-Shannon散度。尽管历史上大多数情况下都忽略了这一点,请注意,在原始KL论文中KL差异确实是对称的(尽管仍然不是度量标准)。
主教

1
@cardinal,好吧,我在该领域的工作并不多,能否请您提出“正确的”对象?
豪尔赫·雷涛2014年

2
JC:对不起,评论框对于我要放入的所有框都太小了。我应该详细说明。事实证明,累积分布函数是更一般和自然的研究对象。:-)
主教

Answers:




1

对KL散度进行了一些修改,使其获得了某些度量标准属性(尽管不是全部)。

例如,Jeffrey的散度修改了KL散度以使其对称。

有一些特殊情况,请参见[1]:“很遗憾,基于Kullback-Leibler(KL)散度和Bhattacharyya距离的传统度量不能满足许多​​算法所需的所有度量公理。在本文中,我们提出了对KL的一种修改对于多元高斯密度,其发散度和Bhattacharyya距离将这两个量度转换为距离度量。”

[1] K. Abou-Moustafa和F. Ferrie,“关于某些差异度量的度量属性的注释:高斯案例”,JMLR:研讨会和会议论文集25:1-15,2012年。


By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.