第十一章：特征选择与稀疏学习
第十一章：特征选择与 稀疏学习
特征口特征描述物体的属性口特征的分类相关特征：对当前学习任务有用的属性无关特征：与当前学习任务无关的属性几余特征*：其所包含信息能由其他特征推演出来*为简化讨论，本章暂不涉及几余特征
特征 特征 ⚫ 描述物体的属性 特征的分类 ⚫ 相关特征: 对当前学习任务有用的属性 ⚫ 无关特征: 与当前学习任务无关的属性 ⚫ 冗余特征*: 其所包含信息能由其他特征推演出来 *为简化讨论，本章暂不涉及冗余特征
例子：西瓜的特征颜色当前任务：西瓜是否是好瓜纹理无关特征1触感西瓜的特征根蒂坏瓜相关特征声音好瓜
例子：西瓜的特征 西瓜的特征 颜色 纹理 触感 根蒂 声音 相关特征 无关特征 好瓜 坏瓜 当前任务：西瓜是否是好瓜
特征选择口特征选择从给定的特征集合中选出任务相关特征子集必须确保不丢失重要特征口1原因减轻维度灾难：在少量属性上构建模型降低学习难度：留下关键信息
特征选择 特征选择 ⚫ 从给定的特征集合中选出任务相关特征子集 ⚫ 必须确保不丢失重要特征 原因 ⚫ 减轻维度灾难：在少量属性上构建模型 ⚫ 降低学习难度：留下关键信息
例子：判断是否好瓜时的特征选择颜色当前任务：西瓜是否是好瓜纹理无关特征4触感西瓜的特征根蒂坏瓜相关特征声音特征选择：选择当前任务相关特征好瓜
例子：判断是否好瓜时的特征选择 西瓜的特征 颜色 纹理 触感 根蒂 声音 相关特征 无关特征 好瓜 坏瓜 当前任务：西瓜是否是好瓜 特征选择：选择当 前任务相关特征