Questions tagged «laplace-distribution»

今天我想到，分布 可以看作是高斯和拉普拉斯之间的折衷分布，对于和这样的分布有名称吗？它是否有一个标准化常数的表达式？结石树桩我，因为我不知道如何甚至开始求解在积分 1 = c ^ ＆CenterDot;＆∫ ∞ - ∞ EXP （ - | X - μ | pX∈[R ，p∈[1，2]β>0Çf(x)∝exp（ - |x−μ|pβ)f(x)∝exp⁡（-|X-μ|pβ) f(x)\propto\exp\left(-\frac{|x-\mu|^p}{\beta}\right) x∈R,p∈[1,2]x∈R,p∈[1,2]x\in\mathbb{R}, p\in[1,2]β>0.β>0.\beta>0.CCC1=C⋅∫∞−∞exp(−|x−μ|pβ)dx1=C⋅∫−∞∞exp⁡(−|x−μ|pβ)dX 1=C\cdot \int_{-\infty}^\infty \exp\left(-\frac{|x-\mu|^p}{\beta}\right) dx

23 distributions  normal-distribution  terminology  laplace-distribution  distribution-identification 

我浏览了有关正则化的文献，经常看到一些段落将L2重新调节与高斯先验联系起来，将L1与拉普拉斯联系起来的中心是零。 我知道这些先验的样子，但我不知道它如何转换为线性模型中的权重。在L1中，如果我理解正确，我们期望稀疏解，即某些权重将被精确地推为零。在L2中，我们获得较小的权重，但没有获得零权重。 但是为什么会发生呢？ 如果需要提供更多信息或阐明我的思路，请发表评论。

22 regression  bayesian  prior  regularization  laplace-distribution 

我们都熟悉在文献中有充分记载的概念，即LASSO优化（为简单起见，这里仅将注意力集中在线性回归的情况下） 等效于具有高斯误差的线性模型，在线性模型中，参数被赋予了拉普拉斯先验 \ exp（-\ lambda \ | \ beta \ | _1） 我们也知道，较高的那个会设置调整参数，\ lambda，参数的较大部分将设置为零。话虽如此，我有以下思想问题：升Ô 小号小号 =∥ÿ- Xβ∥22+ λ ∥ β∥1个升Øss=‖ÿ-Xβ‖22+λ‖β‖1个 {\rm loss} = \| y - X \beta \|_2^2 + \lambda \| \beta \|_1 经验值（- λ ∥ β∥1个）经验值⁡（-λ‖β‖1个） \exp(-\lambda \| \beta \|_1 ) λλ\lambda 考虑到从贝叶斯的角度来看，我们可以计算出后验概率，即非零参数估计值位于任何给定的时间间隔集合中，并且 LASSO设置为零的参数等于零。让我感到困惑的是，假设拉普拉斯先验是连续的（实际上是绝对连续的），那么在集合上如何有任何质量是\ {0 \}处的间隔和单例的乘积{ 0 }{0}\{0\}？

20 lasso  laplace-distribution 

许多发行版都有“起源神话”，或者它们很好地描述了物理过程的示例： 您可以通过中央极限定理从不相关错误的总和中获得正态分布的数据 您可以从独立硬币翻转中获得二项分布的数据，也可以从该过程的限制中获得泊松分布的变量 您可以在恒定衰减率下从等待时间获得指数分布的数据。 等等。 但是拉普拉斯分布呢？它对L1正则化和LAD回归很有用，但是对于我来说，很难想到一个人应该自然期望看到的情况。扩散将是高斯的，我能想到的所有具有指数分布（例如等待时间）的示例都包含非负值。

16 distributions  laplace-distribution 

拉普拉斯分布是否存在先验共轭？如果不是，是否存在一个已知的闭合形式表达式，该表达式近似于拉普拉斯分布的参数的后验？ 我在Google上搜索了很多都没有成功，所以我目前对上述问题的猜测是“否”。

13 bayesian  conjugate-prior  laplace-distribution 

它显然是的情况下，如果X一世〜ñ（0 ，1 ）Xi∼N(0,1)X_i \sim N(0,1)，然后 X1个X2+ X3X4〜大号一个p 升一Ç ë （0 ，1 ）X1X2+X3X4∼Laplace(0,1)X_1 X_2 + X_3 X_4 \sim \mathrm{Laplace(0,1)} 我看过关于任意二次形式的论文，这些总是导致可怕的非中心卡方表达式。 上面的简单关系对我来说似乎一点都不明显，所以（如果是真的！）有人能简单证明上面的关系吗？

13 normal-distribution  proof  quadratic-form  laplace-distribution 

我想比较2个样本均值，得出1分钟的股票收益。我假设它们是Laplace分发的（已经检查），我将收益分成两组。如何检查它们是否有显着差异？ 我认为我不能将它们视为正态分布，因为即使它们有300个以上的值，QQ图也显示出与正态分布有很大的差异

10 r  confidence-interval  laplace-distribution 

我目前正在使用Laplace机制编写差分隐私算法。 不幸的是，我没有统计学背景，因此我不知道很多术语。因此，现在我对术语“ 拉普拉斯噪声”不休。为了使数据集微分私有，所有论文都只是讨论根据函数的Laplace分布添加Laplace噪声。 k(X)=f(X)+Y(X)k(X)=f(X)+Y(X)k(X) = f(X) + Y(X) （k是微分私有值，f是评估函数返回的值，Y是拉普拉斯噪声） 这是否意味着我根据Wikipedia https://en.wikipedia.org/wiki/Laplace_distribution的功能从Laplace分布中创建随机变量？ Y=μ−b sgn(U)ln(1−2|U|)Y=μ−b sgn(U)ln⁡⁡(1−2|U|) Y = μ − b\ \text{sgn}(U) \ln ⁡ ( 1 − 2 | U | ) 更新：我从上面的函数中绘制了多达100个随机变量，但这并没有给我拉普拉斯分布（甚至不接近）。但是我认为它应该为拉普拉斯分布建模。 UPDATE2： 这些是我的定义： （拉普拉斯机制）。给定任何函数f:N|X|→Rkf:N|X|→Rkf:N^{|X|}→R^k，拉普拉斯机制定义为：ML(x,f(⋅),ϵ)=f(x)+(Y1,...,Yk)ML(x,f(·),ϵ)=f(x)+(Y1,...,Yk)M_L(x, f(·),\epsilon)=f(x)+(Y_1,...,Y_k)，其中Y是从Lap（∆f / \ epsilon）得出的iid随机变量Lap(Δf/ϵ)Lap(∆f/ϵ)Lap(∆f/\epsilon) 以及： 要生成Y（X），通常的选择是使用均值为零且标度参数为（（f）/ε）的拉普拉斯分布

9 random-generation  laplace-distribution  differential-privacy 

考虑线性回归模型： yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, 其中εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b)，即，具有000均值的拉普拉斯分布和bbb标度参数都是相互独立的。考虑未知参数\ boldsymbol \ beta的最大似然估计ββ\boldsymbol \beta： −logp(y∣X,β,b)=nlog(2b)+1b∑i=1n|xi⋅β−yi|−log⁡p(y∣X,β,b)=nlog⁡(2b)+1b∑i=1n|xi⋅β−yi| -\log p(\mathbf y \mid \mathbf X, \boldsymbol \beta, b) = n\log (2b) + \frac 1b\sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i| 从其中 …

9 regression  laplace-distribution