高级人工智能 第六章 贝叶斯网络 概率推理 史忠植 中国科学院计算技术研宪所 adyanced Ar'iiFsicl nelligen
2021/8/25 史忠植 高级人工智能 1 高级人工智能 第六章 贝叶斯网络 概 率 推 理 Advanced Artificial Intelligence 史忠植 中国科学院计算技术研究所
内容提要 6.1概述 6.2贝叶斯概率基础 6.3贝叶斯问题的求解 6.4简单贝叶斯学习模型 6.5贝叶斯网络的建造 6.6贝叶斯潜在语义模型 6.7半监督文本挖掘算法 20218/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 2 内容提要 6.1 概述 6.2 贝叶斯概率基础 6.3 贝叶斯问题的求解 6.4 简单贝叶斯学习模型 6.5 贝叶斯网络的建造 6.6 贝叶斯潜在语义模型 6.7 半监督文本挖掘算法
61概述 ●贝叶斯网络是用来表示变量间连接概率的图 形模式,它提供了一种自然的表示因果信息 的方法,用来发现数据间的潜在关系。在这 个网络中,用节点表示变量,有向边表示变 量间的依赖关系。 ●贝叶斯方法以其独特的不确定性知识表达形 式、丰富的概率表达能力、综合先验知识的 增量学习特性等成为当前数据挖掘众多方法 中最为引人注目的焦点之 20218/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 3 6.1 概 述 ⚫ 贝叶斯网络是用来表示变量间连接概率的图 形模式,它提供了一种自然的表示因果信息 的方法,用来发现数据间的潜在关系。在这 个网络中,用节点表示变量,有向边表示变 量间的依赖关系。 ⚫ 贝叶斯方法以其独特的不确定性知识表达形 式、丰富的概率表达能力、综合先验知识的 增量学习特性等成为当前数据挖掘众多方法 中最为引人注目的焦点之一
61概述 61.1贝叶斯网络的发展历史 贝叶斯( Reverend Thomas Bayes,1702-1761)学派奠 基性的工作是贝叶斯的论文“关于几率性问题求解的 评论”。或许是他自己感觉到它的学说还有不完善的 地方,这一论文在他生前并没有发表,而是在他死后, 由他的朋友发表的。著名的数学家拉普拉斯( Laplace P. s)用贝叶斯的方法导出了重要的“相继律”,贝叶斯 的方法和理论逐渐被人理解和重视起来。但由于当时 贝叶斯方法在理论和实际应用中还存在很多不完善的 地方,因而在十九世纪并未被普遍接受。 20218/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 4 6.1 概 述 6.1.1 贝叶斯网络的发展历史 ⚫ 贝叶斯(Reverend Thomas Bayes, 1702-1761)学派奠 基性的工作是贝叶斯的论文“关于几率性问题求解的 评论”。或许是他自己感觉到它的学说还有不完善的 地方,这一论文在他生前并没有发表,而是在他死后, 由他的朋友发表的。著名的数学家拉普拉斯 (Laplace P. S.)用贝叶斯的方法导出了重要的“相继律”,贝叶斯 的方法和理论逐渐被人理解和重视起来。但由于当时 贝叶斯方法在理论和实际应用中还存在很多不完善的 地方,因而在十九世纪并未被普遍接受
61概述 61.1贝叶斯网络的发展历史 二十世纪初,意大利的菲纳特(B. de finetti)以及英 国的杰弗莱( Jeffreys H.)都对贝叶斯学派的理论作出 重要的贡献。第二次世界大战后,瓦尔德( Walda.) 提出了统计的决策理论,在这一理论中,贝叶斯解占有 重要的地位;信息论的发展也对贝叶斯学派做岀了新的 贡献。1958年英国最悠久的统计杂志 Biometrika全文 重新刊登了贝叶斯的论文,20世纪50年代,以罗宾斯 ( Robbins h.)为代表,提出了经验贝叶斯方法和经 典方法相结合,引起统计界的广泛注意,这一方法很快 就显示出它的优点,成为很活跃的一个方向。 20218/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 5 6.1 概 述 6.1.1 贝叶斯网络的发展历史 ⚫ 二十世纪初,意大利的菲纳特(B. de Finetti)以及英 国的杰弗莱(Jeffreys H.)都对贝叶斯学派的理论作出 重要的贡献。第二次世界大战后,瓦尔德(Wald A.) 提出了统计的决策理论,在这一理论中,贝叶斯解占有 重要的地位;信息论的发展也对贝叶斯学派做出了新的 贡献。1958年英国最悠久的统计杂志Biometrika全文 重新刊登了贝叶斯的论文,20世纪50年代,以罗宾斯 (Robbins H.)为代表,提出了经验贝叶斯方法和经 典方法相结合,引起统计界的广泛注意,这一方法很快 就显示出它的优点,成为很活跃的一个方向