集成学习在机器学习竞赛中的广泛使用 2: KDD THE 18TH 2012 ACM SIGKDD CONFERENCE ON 器会KDD BEIJING KNOWLEDGE DISCOVERY AND DATA MINING August,2012 (DD2013 CHICA O, LINOIS USA A MINING gaggle KDD2044 Welcome to Tianchi 互联网新技术在线教育领航者 业晕学院 ▲ ChinaHadoop.cn
互联网新技术在线教育领航者 集成学习在机器学习竞赛中的广泛使用
集成学习 口在集成学习构建了一组基学习器(base learner),并将它们综合起来作为最终的模 型 在很多集成学习模型中,对基学习器的要求很 低 口集成学习适用于机器学习的几乎所有领城 ■回归 分类 推荐 排序 互联网新技术在线教育领航者 业晕学院 ▲ ChinaHadoop.cn
互联网新技术在线教育领航者 集成学习 在集成学习构建了一组基学习器（base learner），并将它们综合起来作为最终的模 型 在很多集成学习模型中，对基学习器的要求很 低 集成学习适用于机器学习的几乎所有领域 回归 分类 推荐 排序
集成学习的为何有效? 口多样( diverse)的基学习器 ■不同的模型取长补短 ■每个基学习器都犯不同的错,综合起来犯错的 可能性不大 口反例:相同的多个基学习器不会帶来任何提 升 互联网新技术在线教育领航者 9/48 业晕学院 ▲ ChinaHadoop.cn
互联网新技术在线教育领航者 集成学习的为何有效？ 多样（diverse）的基学习器 不同的模型取长补短 每个基学习器都犯不同的错 ，综合起来犯错的 可能性不大 反例：相同的多个基学习器不会带来任何提 升 9/48
集成学习示例1:分类问题 口每个线性模型都不能成 功将该数据集分类 口3个线性模型的简单综 合即可将数据集成功分 类 口每个模型犯不同的错, 但是在综合肘能够取长 补短,使得综合后的模 型性能更好 互联网新技术在线教育领航者 业晕学院 ▲ ChinaHadoop.cn
互联网新技术在线教育领航者 集成学习示例1：分类问题 每个线性模型都不能成 功将该数据集分类 3个线性模型的简单综 合即可将数据集成功分 类 每个模型犯不同的错， 但是在综合时能够取长 补短，使得综合后的模 型性能更好
集成学习示例2:天气预测 Realit 关… exe. XX s8 x6 Combi 互联网新技术在线教育领航者 业晕学院 ▲ ChinaHadoop.cn
互联网新技术在线教育领航者 集成学习示例2：天气预测 X X X X X X X X X X X X X