Linear SVM


Kernel SVM

通过映射函数 ϕ()\phi(),将低维的特征向量 feature vector xx 映射到高维空间中 vxv_x,以期望在低维空间不可线性分割的 feature vector 在高维空间可以被线性分割

但是当映射到高维空间之后,高维向量之间的点乘运算比较耗时,因此利用核函数 Kernel Function K(v1,v2)\mathcal{K}(v_1,v_2) 替换点乘运算。例如常见的做法是

K(x(i),x(j))=exp(γx(i)x(j)2) \mathcal{K}(x^{(i)},x^{(j)})=\exp\Big( -\gamma\|x^{(i)}-x^{(j)} \|^2 \Big)

γ=12σ2\gamma=\frac{1}{2\sigma^2} 时,就是高斯核函数。