Machine Learning 目前机器学习解决问题的思路 Low-level Pre- Feature Inference: Feature sensing processing extract. selection prediction, recognition 中间的三部分,概括起来就是特征表达。良好的特征表达,对最 终算法的准确性起了非常关键的作用,而且系统主要的计算和测 试工作都耗在这一大部分。但这块实际中一般都是人工完成的。 靠人工提取特征 Feature Learning Representation algorithm Input E.g.,SIFT,HoG,etc. 手工选取特征不太好,那么能不能自动地学习一些特征呢?能! Deep Learning(Unsupervised Feature Learning)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Machine Learning 目前机器学习解决问题的思路 中间的三部分,概括起来就是特征表达。良好的特征表达,对最 终算法的准确性起了非常关键的作用,而且系统主要的计算和测 试工作都耗在这一大部分。但这块实际中一般都是人工完成的。 靠人工提取特征 手工选取特征不太好,那么能不能自动地学习一些特征呢?能! Deep Learning (Unsupervised Feature Learning)
Deep Learning Neuron Sigmoid 三■a1十十0w+…+arwg+b a()=I- A simole function tanh tanh(x】 Activation ReLU Outpu function Hidden Layers L max(0.x] dk weights b bias Decp means many hidden layers Deep Many hidden layers 1521aye3 Specis structure 357% 73% 6.7 16.4% AlexNet VGG GoogleNet Residual Net (2012) 2014) 2014) 2015到 4口◆4⊙t1三1=,¥9QC
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Deep Learning