拉普拉斯分布是否存在共轭先验?


13

拉普拉斯分布是否存在先验共轭?如果不是,是否存在一个已知的闭合形式表达式,该表达式近似于拉普拉斯分布的参数的后验?

我在Google上搜索了很多都没有成功,所以我目前对上述问题的猜测是“否”。


1
Google“ polson和scott正态方差均值混合”-这将通过EM算法使用MAP给您一些近似的贝叶斯。
probabilityislogic

Answers:


12

让我们一次来看一个(按照给定的另一个)。

从链接(经过以下修改后,使用希腊符号作为参数的约定):

FX|μτ=1个2τ经验值-|X-μ|τ

- 比例参数

大号ττ-ķ-1个Ë-小号τ

ķ小号

因此,scale参数具有共轭先验-通过检查,共轭先验是反伽马。

- 位置参数

一世|X一世-μ|μ

统一的先验会简单地截断后验,如果看起来像先验那样合理,那么使用它并不难。

一种可能偶尔有用的有趣的可能性是,通过使用伪观测来包含拉普拉斯先验(与数据具有相同标度的先验)相当容易。一个人可能还会通过一些伪观测来近似其他(更严格的)先验)

经验值-Ĵ|μ-θĴ|/ϕĴ经验值-ĴwĴ|μ-θĴ|

它也足够灵活,可以用来近似其他先验。

(更一般而言,可以在对数刻度上工作,并使用连续的,分段线性的对数凹面先验,后验也可以采用这种形式;在特殊情况下,包括不对称拉普拉斯)

只是为了表明它很容易处理-以下是加权Laplace的位置参数的先验(虚线灰色),似然性(虚线,黑色)和后验(实心,红色)(...这是已知的比例) )。

在此处输入图片说明

我认为加权拉普拉斯方法在MCMC中会很好地工作。

-

我想知道所得后验模式是否为加权中位数?

-实际上(回答我自己的问题),答案似乎是“是”。这使得与之合作非常愉快。

-

联合先验

Fμτ=Fμ|τFτμ|ττττ

毫无疑问,对于联合事前更普遍的事情是可能的,但是我认为我不会在这里进一步探讨联合案。

-

我以前从未见过或听说过这种加权拉普拉斯的先验方法,但是想起来很简单,所以可能已经完成了。(欢迎大家参考,如果有人知道的话。)

如果没有人知道任何参考文献,也许我应该写点东西,但这真是令人惊讶。


哇,好答案。我当然不知道任何类似的参考。如果您发现或写了一些东西,请告诉我!
RasmusBååth2014年

1
获得位置参数的一种可能方法是使用拉普拉斯的正态方差混合表示。尽管这是有条件共轭的先验……
概率

@probabilityislogic很有趣。在较早的编辑中,我在一行中指出拉普拉斯是法线的指数比例混合,因为我想知道是否可以对此做些什么,但是当我进一步编辑答案时,它不再适合任何地方,因此我采取了再次出来。从您的有用评论看来,它可以以这种方式使用。这可能很方便。
Glen_b-恢复莫妮卡2014年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.