高斯过程/狄利克雷过程等随机过程是否具有密度?如果没有,如何对他们应用贝叶斯规则?


10

Dirichlet Pocess和高斯过程通常被称为“函数分布”或“分布分布”。在那种情况下,我可以有意义地谈谈GP下函数的密度吗?也就是说,高斯过程或Dirichlet过程是否具有概率密度的概念?

如果不是,那么,如果对函数的先验概率的概念没有很好地定义,我们如何使用贝叶斯定律从后验先到?贝叶斯非参数世界中是否存在诸如MAP或EAP估计之类的东西?非常感谢。


1
假设仅在有限的点集合上观察到(例如)高斯过程实现,则勒贝格测度的相应乘积就是主要测度。这意味着对于在有限的点集合处观察随机函数,存在一个密度。f
西安

关于密度的答案是肯定的,适当的数学公式称为Radon-Nikodym导数。
ub

Answers:


4

“密度”或“可能性”与测度理论中的Radon-Nikodym定理有关。正如@西安所指出的那样,当您考虑随机过程的一组有限的所谓局部观测值时,似然性对应于通常使用Lebesgue测度的导数概念。例如,在已知的有限索引集上观察到的高斯过程的可能性是高斯随机向量的可能性,其均值是从过程的均方差推导出的,均可以采用参数化形式。

在理想情况下,随机过程中有无数个观测值可用,则概率测度在无限维空间上,例如,如果随机过程具有连续路径,则在连续函数空间上。但是没有什么像在无穷维空间上的Lebesgue测度那样存在,因此没有简单的可能性定义。

对于高斯过程,在某些情况下,我们可以使用高斯测度的等价概念来定义可能性。吉萨诺夫定理提供了一个重要的例子,该定理在金融数学中被广泛使用。这将Itô扩散 的可能性定义为与为定义的标准维纳过程的概率分布的导数。在BerntØksendal书中找到了一个简洁的数学论述。萨尔卡Särkkä)和索林(Solin)即将出版的书 提供了更直观的介绍,将对从业人员有所帮助。Nate Elderedge提供了关于无穷维空间分析和概率的精彩数学论述。YtBtt0

请注意,统计学家有时将完全观察到的随机过程的可能性称为填充可能性


非常有帮助的解释!我认为我对贝叶斯非参数这类主题的部分困惑是由于我对度量理论和功能分析缺乏了解,所以我一定会检查您的参考文献。
snickerdoodles777
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.