SVM算法背后的统计模型是什么？

我了解到，在使用基于模型的方法处理数据时，第一步是将数据过程建模为统计模型。然后，下一步就是基于此统计模型开发有效/快速的推理/学习算法。所以我想问问支持向量机（SVM）算法背后的统计模型是什么？

您通常可以编写一个与损失函数相对应的模型（在这里，我将讨论SVM回归而不是SVM分类；这特别简单）

例如，在一个线性模型，如果你的损失函数是然后最小化将对应于最大似然为˚F α EXP （- $\sum_i g(\varepsilon_i) = \sum_i g(y_i-x_i'\beta)$= EXP （- $f\propto \exp(-a\,g(\varepsilon))$ 。（这里有一个线性核）$= \exp(-a\,g(y-x'\beta))$

如果我没记错的话，SVM回归具有如下损失函数：

这对应于在中间带有指数尾部的均匀密度（如我们通过对负数或负数进行乘幂运算而看到的）。

其中有3个参数系列：转角位置（相对不敏感度阈值）加上位置和比例。

这是一个有趣的密度；如果我回想起几十年前的特定分布，对位置的一个很好的估计是，它是对应于拐角位置的两个对称放置的分位数的平均值（例如，对于一个特定的位置，midhinge可以很好地近似MLE在SVM损失中选择常数）; 类似的比例参数估计器将基于它们的差异，而第三个参数基本上对应于确定拐角处的百分位（可以选择而不是通常对SVM进行估计）。

因此，至少对于SVM回归而言，这似乎非常简单，至少在我们选择以最大可能性获得估计量的情况下。

（以防万一您要问……对于SVM的这种特殊连接，我没有任何参考：我现在已经解决了。这很简单，但是，数十个人已经在我之前解决了这个问题，所以毫无疑问还有是因为它引用-我只是从来没有见过）。

我认为有人已经回答了您的字面问题，但让我澄清一下潜在的困惑。

您的问题有点类似于以下内容：

我有这个函数，我想知道它对什么微分方程的解？$f(x) = \ldots$

换句话说，它肯定有一个有效的答案（如果强加了规律性约束，甚至可能是一个唯一的答案），但这是一个很奇怪的问题，因为它并不是首先引起该函数的微分方程。
（在另一方面，给出的微分方程，它是自然的，要求其解决方案，因为这通常是为什么你写的公式！）

原因如下：我认为您正在考虑概率/统计模型-具体来说是基于数据的联合概率和条件概率的生成模型和判别模型。

SVM都不是。这是一种完全不同的模型-绕过那些模型并尝试直接对最终决策边界建模，从而使概率大打折扣。

由于它是要找到决策边界的形状，因此其背后的直觉是几何的（也许应该说基于优化），而不是概率或统计的。

鉴于在整个过程中都没有真正考虑到概率，因此询问对应的概率模型是什么是非常不寻常的，尤其是因为整个目标都是避免担心概率。因此，为什么您看不到别人在谈论他们。