特征功能的目的是什么?


37

我希望有人可以用通俗易懂的方式解释什么是特征函数,以及如何在实践中使用它。我已经读过它是pdf的傅里叶变换,所以我想我知道它是什么,但我仍然不了解它的目的。如果有人可以提供其目的的直观描述,以及可能如何使用它的示例,那真是太棒了!

最后一点:我已经看过Wikipedia页面,但是显然太密集了,无法理解正在发生的事情。我正在寻找的一种解释是,计算机科学家认为,如果某个人没有沉迷于概率论的奇迹中,便可以理解。

Answers:


47

过去,人们使用对数表来更快地相乘。为什么是这样?对数将乘法转换为加法,因为。因此,为了将两个大数和相乘,您找到了它们的对数,添加了对数,然后在另一个表上查找了。a b z = log a + log b exp z log(ab)=log(a)+log(b)abz=log(a)+log(b)exp(z)

现在,特征函数对概率分布起着类似的作用。假设的分布为,的分布为,并且和是独立的。然后分布是卷积的和,。f Y g X Y X + Y f g f gXfYgXYX+Yfgfg

现在,特征函数类似于卷积的“对数表技巧”,因为如果是的特征函数,则以下关系成立: ˚Fϕff

ϕfϕg=ϕfg

此外,就像对数一样,很容易找到特征函数的逆:给定,其中是未知密度,我们可以通过傅立叶逆变换获得。 h h ϕ hϕhhhϕh

特色功能转换卷积乘法密度函数相同的方式,对数转换另外的号码。两种转换都将相对复杂的操作转换为相对简单的操作。


22
值得一提的其他项目:(a)通过微分恢复矩,(b)所有分布都具有特征函数(与产生力矩的函数相比),(c)分布之间(基本上)一对一的对应关系以及它们的特征函数,以及(d)许多相对常见的分布具有已知的特征函数,但是没有密度的表达式(例如,征维稳定分布)。
主教

3
好评论,@ cardinal。请考虑将其转换为实际答复。
whuber

对于那些了解此主题的人来说,它是否与特征方程式(与递归关系一起使用)(例如,在Knuth的具体数学中)有关?我的猜测是它们非常不同,只是偶然地使用“特征”一词,但我想我会问。
韦恩

@Wayne,您应该将其发布为问题。我认为有一个紧密的联系:特征函数来自傅里叶变换,它是与实线上的分布有关的Gelfand变换。递归关系的特征方程似乎源自概率生成函数,该函数是与自然数相关的Gelfand变换。可以将递归关系中的变量视为离散时间步长上的值,即自然数。
cantorhead 2015年

@Wayne ...因此,我认为可以将与其变量方程式具有递归关系的变量视为与自然数分布相关的“傅立叶变换”。我搜索并没有找到这个问题,但是如果您确实发布了它,我将非常有兴趣看到答案。
cantorhead 2015年

6

@ charles.y.zheng和@cardinal给出了很好的答案,我将加两分钱。是的,特征函数可能看起来像是不必要的复杂化,但是它是可以获取结果的强大工具。如果您试图用累积分布函数来证明某些东西,总是建议检查是否不可能用特征函数得到结果。有时这会提供非常简短的证明。

尽管起初特征函数看起来不是直觉地处理概率分布的方式,但仍有一些与之直接相关的有力结果,这意味着您不能将这一概念当作纯粹的数学娱乐而丢弃。例如,在概率论中,我最喜欢的结果是,任何无限可分布都具有唯一的Lévy–Khintchine表示。结合无限可整分布是独立随机变量之和的极限的唯一可能分布的事实(不包括奇异的情况),这是得出中心极限定理的深层结果。


3

特征函数的目的是可以将它们用于推导概率论中的分布特性。如果您对此类推导不感兴趣,则无需了解特征函数。


我想我可能会对这样的推导感兴趣-我只是不太明白为什么我们需要使用特征函数?为什么比直接处理pdf / cdf更容易?
尼克,

1
@Nick这有点民俗元素,例如“这是如此优雅,以至于这是某种分销概念的代表……”。当然,它有助于进行一些数学运算,因此它不仅是多余的玩具,而且对于日常使用来说,它相当于物理学家强迫使用经典的结构常数来解决经典问题。

我们不需要使用它们。我只说可以使用它们。有时他们给出更快的推导,有时根本没有帮助。派生是否“更轻松”取决于您已经知道的-如果您不了解特征函数,这将不会变得容易。在某些情况下,矩生成函数提供了一种替代方法,并且具有更直接的解释。
一站式

2

特征函数是分布密度函数的傅立叶变换。如果您对傅立叶变换有任何直觉,那么这个事实可能会启发您。关于傅立叶变换的共同故事是,它们描述了“在频率空间中”的函数。由于概率密度通常是单峰的(至少在现实世界中,或者在关于现实世界的模型中),所以这似乎并不十分有趣。


1
:潜在的编辑声称“特色功能是傅立叶变换”。
gung-恢复莫妮卡

-1

傅立叶变换是函数(非周期性)在其频率上的分解。密度的解释?

傅立叶变换是傅立叶级数的连续形式,因为没有密度是周期性的,没有像“特征级数”这样的表达式。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.