样条曲线与高斯过程回归


15

我知道高斯过程回归(GPR)是使用样条曲线拟合弹性非线性模型的替代方法。我想知道哪种情况比另一种情况更合适,尤其是在贝叶斯回归框架中。

我已经看过使用样条线,平滑样条线和高斯过程仿真器的优点/缺点是什么?但这篇文章中似乎没有关于GPR的任何内容。


我想说GP是一种更加数据驱动的方法来拟合非线性函数。样条曲线通常限于第n个多项式。GP可以比多项式建模更复杂的函数(尽管不是100%确定)。
Vladislavs Dovgalecs 2015年

Answers:


15

我同意@j__的回答。

但是,我想强调一个事实, 样条线只是高斯过程回归/克里金法的一种特殊情况

如果您在高斯过程回归中采用某种类型的核,则可以精确地获得样条拟合模型。

Kimeldorf和Wahba(1970)在本文中证明了这一事实。这是相当技术性的,因为它使用了克里金法和再现内核希尔伯特空间(RKHS)中使用的内核之间的链接。


2
例如,在一维情况下,著名的平滑样条曲线的GP模型只是一个双重积分的高斯白噪声。Craig Ansley和Robert Kohn在1980年代末使用它来设计有效的算法。我相信,无需深究RKHS的数学知识,就可以部分理解这种等效性。
伊夫

这是一个很好的答案。
阿斯特丽德

6

这是一个非常有趣的问题:在Kimeldorf和Wahba 1970中,已经证明了高斯过程与平滑样条之间的等效关系。在Bay等人中,已开发出在约束插值情况下这种对应关系的一般化。2016。

湾等。2016。约束内插的Kimeldorf-Wahba对应关系的推广。电子统计杂志。

在本文中,已经讨论了贝叶斯方法的优点。


2

我同意@xeon的评论,GPR也将概率分布分布在无限数量的可能函数上,均值函数(类似于样条线)仅是MAP估计值,但与此同时也存在方差。这提供了很多机会,例如实验设计(选择具有最大参考价值的输入数据)。同样,如果您要执行模型的积分(正交)运算,GP将具有高斯结果,使您对结果有信心。至少对于标准样条模型而言,这是不可能的。

在实践中,根据我的经验,GPR可以提供更有益的结果,但样条曲线模型在我的经验中似乎更快。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.