第七章SVM ■7.1非线性SVM ■72SVM技术 7.3SVM性质 74SVM推广
第七章 SVM 7.1 非线性SVM 7.2 SVM技术 7.3 SVM性质 7.4 SVM推广
71非线性SVM
7.1 非线性SVM
71非线性SVM 线性分类器的局限: a可变性( flexibility)差; VC维=d+1,d是原始数据x的维数; n很多实际问题不是线性可分的
7.1 非线性SVM 线性分类器的局限： 可变性(flexibility)差; VC维=d+1， d是原始数据x的维数； 很多实际问题不是线性可分的
71非线性SVM SⅥM思想: 非线性映射把原始数据变换到高维特征空间: 原始数据空间 特征空间 x→>2(x)=(1n(x),a22(x)…,ap1(x) 在特征空间中,设计线性SVM
7.1 非线性SVM SVM思想： 非线性映射把原始数据变换到高维特征空间： 在特征空间中，设计线性SVM 原始数据空间 特征空间 ( ) ( ( ), ( ) , ( ) 1 1 2 2 x z x a x a x a x → = φ φ L Mφ M
71非线性SVM ■例:XOR问题 二维映射到三维 X=(rx z(x)=(x,z2,z3)=(x2,x2,xx2) (0,0)→>(0,0,0 线性 1)→(1)1 线性可分 不可分 0,1)→>(O,10) 1,0)→>(,0,0)
7.1 非线性SVM 例：XOR问题 ( , ), 1 2 x = x x ( ) ( , , ) ( , , ). 1 2 3 1 2 1 2 z x = z z z = x x x x 二维映射到三维 (1,0) (1,0,0). (0,1) (0,1,0), (1,1) (1,1,1), (0,0) (0,0,0), → → → → 线性 线性可分 不可分