Questions tagged «support-vector-machines»

我试图用Python 编写完整的SVM实现，但是在计算Lagrange系数时遇到一些问题。 首先让我重新叙述一下我从算法中了解的内容，以确保我走在正确的道路上。 如果是一个数据集和ÿ 我 ∈ { - 1 ，1 }是的类别标签X 我，然后∀ 我，ÿ 我（瓦特Ť X 我 + b ）≥ 1x1,x2,...,xnx1,x2,...,xnx_1, x_2, ..., x_nyi∈{−1,1}yi∈{−1,1}y_i \in \{-1, 1\}xixix_i∀i,yi(wTxi+b)≥1∀i,yi(wTxi+b)≥1\forall i, y_i(w^Tx_i + b) \geq 1 因此，我们只需要解决一个优化问题即可 ∥w∥2‖w‖2\|w\|^2 服从yi(wTxi+b)≥1yi(wTxi+b)≥1y_i(w^Tx_i + b) \geq 1 就拉格朗日系数而言，这转化为找到，和和最小化：wwwbbbα=(α1,α2,...αn)≠0α=(α1,α2,...αn)≠0\alpha=(\alpha_1, \alpha_2, ... \alpha_n) \neq0≥0≥0\geq0L(α,w,b)=12∥w∥2−∑αi(yi(wTx+b)−1)L(α,w,b)=12‖w‖2−∑αi(yi(wTx+b)−1)L(\alpha, w, b) = \frac12 \|w\|^2 - …

10 optimization  machine-learning  support-vector-machines  quadratic-programming 

我使用RBF内核函数来实现一种基于内核的机器学习算法（KLPP），得到的内核矩阵 KKK K(i,j)=exp(−(xi−xj)2σ2m)K(i,j)=exp⁡(−(xi−xj)2σm2)K(i,j)= \exp\left({\frac{-(x_{i}-x_{j})^2}{ \sigma_{m}^2}}\right) 被证明病得很重条件。L2-范数的条件数为1017−10641017−106410^{17}-10^{64} 有什么办法使它适应良好吗？我猜想参数需要调整，但我不知道该怎么精确。σσ \sigma 谢谢！

10 linear-algebra  machine-learning  interpolation  support-vector-machines