71非线性SVM ■线性SWM回顾: 优化函数(二次规划): min+C(∑5) 2 b s t y(x1*+b)≥1 5;≥0
7.1 非线性SVM 线性SVM回顾: 优化函数(二次规划): ( ) 21 min 1 2 , , ∑= + ni i w b w C ξ ξ i i w b i s.t. y (x ∗ + ) ≥1−ξ i =1,2,L, n. ≥ 0. ξ i
71非线性SVM ■线性SWM回顾: 对偶形式: max∑c ∑ aa (x:*x J St.0≤c1≤C, 01y7=
7.1 非线性SVM 线性SVM回顾: 对偶形式: ∑ ∑ = = − ∗ n i j i j i j i j n i i y y x x 1 , 1 ( ) 21 max α α α α s.t. 0 C, i 1,2, ,n. ≤αi ≤ = L 0. 1 ∑ = = n i i i α y
71非线性SVM ■超平面是支持向量的线性组合: y(x*1+b)=10<联1<C y(x菜1+b)> y(x*1+b)<1
7.1 非线性SVM 超平面是支持向量的线性组合: . 1 ∑ = = n i i i i w α y x yi(xi ∗w+ b) =1 0 <αi < C yi(xi ∗w+ b) >1 = 0 αi yi(xi ∗w+ b) <1 αi = C
71非线性SVM 判决函数 8(x)=∑aJ(x*x)+b
7.1 非线性SVM 判决函数: ( ) ( ) . 1 g x y x x b n i = ∑ i i i ∗ + = α
71非线性SVM ■如果把原始空间数据映射到特征空间 那么特征空间中的线性SVM为: max2a-∑yya(=(x)*(x) s1.0<a.≤C 0 8(x)=∑aJ((x)*(x)+b
7.1 非线性SVM 如果把原始空间数据映射到特征空间, 那么特征空间中的线性SVM为: g x y z x z x b n i = ∑ i i i ∗ + =1 ( ) α ( ( ) ( )) ∑ ∑ = = − ∗ n i j i j i j i j n i i y y z x z x 1 , 1 ( ( ) ( )) 21 max α α α α s.t. 0 C, i 1,2, ,n. ≤αi ≤ = L 0. 1 ∑ = = n i i i α y