SVM =模板匹配如何？

我了解了SVM，并了解到它们正在解决优化问题，并且最大利润率的想法非常合理。

现在，使用内核，他们甚至可以找到很棒的非线性分离边界。

到目前为止，我真的不知道SVM（一种特殊的内核计算机）和内核计算机如何与神经网络相关联？

在这里考虑Yann Lecun => 的评论：

kernel methods were a form of glorified template matching

还有这里：

例如，一些人因为与之相关的数学运算而对内核方法感到迷惑。但是，正如我在过去所说的，最后，内核计算机是执行“标准化模板匹配”的浅层网络。没什么错（SVM是一种很好的方法），但是它有可怕的局限性，我们都应该意识到。

所以我的问题是：

1. SVM与神经网络有何关系？浅层网络如何？
2. SVM通过定义明确的目标函数解决了优化问题，它如何进行模板匹配？输入与之匹配的模板在这里是什么？

我想这些评论需要对高维空间，神经网络和内核机器有透彻的了解，但到目前为止，我一直在尝试并且无法理解其背后的逻辑。但是，注意到两种截然不同的ml技术之间的联系肯定很有趣。

编辑：我认为从神经的角度理解SVM会很棒。我正在寻找对以上两个问题的数学支持的完整答案，以便真正理解SVM和神经网络之间的联系，无论是线性SVM还是带有内核技巧的SVM。

1. SVM与神经网络有何关系？浅层网络如何？

SVM是一个单层神经网络，具有作为损失函数的铰链损失和专门的线性激活。在以前的线程（例如该线程）中已经提到了这一概念：具有RelU激活的单层神经网络等于SVM？

2. SVM通过定义明确的目标函数解决了优化问题，它如何进行模板匹配？输入与之匹配的模板在这里是什么？

克矩阵（如果愿意，可以使用内核矩阵）是一种相似性度量。由于SVM允许稀疏求解，因此预测就成为将样本与模板（即支持向量）进行比较的问题。