61概述 61.1贝叶斯网络的发展历史 ●随着人工智能的发展,尤其是机器学习、数据挖掘等 兴起,为贝叶斯理论的发展和应用提供了更为广阔的 空间。贝叶斯理论的内涵也比以前有了很大的变化。 80年代贝叶斯网络用于专家系统的知识表示,90年代 进一步研究可学习的贝叶斯网络,用于数据采掘和机 器学习。近年来,贝叶斯学习理论方面的文章更是层 出不穷,内容涵盖了人工智能的大部分领域,包括因 果推理、不确定性知识表达、模式识别和聚类分析等。 并且出现了专门研究贝叶斯理论的组织和学术刊物 International Society Bayesian Analysis 2021/8/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 6 6.1 概 述 6.1.1 贝叶斯网络的发展历史 ⚫ 随着人工智能的发展，尤其是机器学习、数据挖掘等 兴起，为贝叶斯理论的发展和应用提供了更为广阔的 空间。贝叶斯理论的内涵也比以前有了很大的变化。 80年代贝叶斯网络用于专家系统的知识表示，90年代 进一步研究可学习的贝叶斯网络，用于数据采掘和机 器学习。近年来，贝叶斯学习理论方面的文章更是层 出不穷，内容涵盖了人工智能的大部分领域，包括因 果推理、不确定性知识表达、模式识别和聚类分析等。 并且出现了专门研究贝叶斯理论的组织和学术刊物 International Society Bayesian Analysis
61概述 612贝叶斯方法的基本观点 ●贝叶斯分析方法的特点是用概率去表示所有形式 的不确定性,学习或其它形式的推理都用概率规 则来实现。 贝叶斯学习的结果表示为随机变量的概率分布, 它可以解释为我们对不同可能性的信任程度 ●贝叶斯学派的起点是贝叶斯的两项工作:贝叶斯 定理和贝叶斯假设。 ●贝叶斯定理将事件的先验概率与后验概率联系起 来。 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 7 6.1 概 述 6.1.2 贝叶斯方法的基本观点 ⚫ 贝叶斯分析方法的特点是用概率去表示所有形式 的不确定性，学习或其它形式的推理都用概率规 则来实现。 ⚫ 贝叶斯学习的结果表示为随机变量的概率分布， 它可以解释为我们对不同可能性的信任程度。 ⚫ 贝叶斯学派的起点是贝叶斯的两项工作：贝叶斯 定理和贝叶斯假设。 ⚫ 贝叶斯定理将事件的先验概率与后验概率联系起 来
61概述 612贝叶斯方法的基本观点 假定随机向量x,的联合分布密度是p(x,),它们 的边际密度分别为p(x)、p(O。一般情况下设x是观测 向量,6是未知参数向量,通过观测向量获得未知参数 向量的估计,贝叶斯定理记作 plx) 丌(0)p(x|6)x(()p(x|b) 丌()p(x|6)d0 丌(0是的先验分布 (6.1) 20218/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 8 6.1 概 述 6.1.2 贝叶斯方法的基本观点 假定随机向量x，θ的联合分布密度是p(x, θ)，它们 的边际密度分别为p(x)、p(θ)。一般情况下设x是观测 向量， θ是未知参数向量，通过观测向量获得未知参数 向量的估计，贝叶斯定理记作： = = p x d p x p x p x p x ( ) ( | ) ( ) ( | ) ( ) ( ) ( | ) ( | ) π(θ) 是θ的先验分布 (6.1)
61概述 612贝叶斯方法的基本观点 贝叶斯方法对未知参数向量估计的一般过程为: (1)将未知参数看成随机向量,这是贝叶斯方法与传统的参 数估计方法的最大区别。 ②2根据以往对参数知识,确定先验分布κ(θ),它是贝叶 斯方法容易引起争议的一步,因此而受到经典统计界的攻击。 (计算后验分布密度,做出对未知参数的推断。 在第(2步,如果没有任何以往的知识来帮助确定π(θ), 贝叶斯提出可以采用均匀分布作为其分布,即参数在它的变 化范围内,取到各个值的机会是相同的,称这个假定为贝叶 斯假设。 2021/8/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 9 6.1 概 述 6.1.2 贝叶斯方法的基本观点 贝叶斯方法对未知参数向量估计的一般过程为： ⑴将未知参数看成随机向量，这是贝叶斯方法与传统的参 数估计方法的最大区别。 ⑵ 根据以往对参数θ的知识，确定先验分布π(θ)，它是贝叶 斯方法容易引起争议的一步，因此而受到经典统计界的攻击。 ⑶计算后验分布密度，做出对未知参数的推断。 在第⑵步，如果没有任何以往的知识来帮助确定π(θ) ， 贝叶斯提出可以采用均匀分布作为其分布，即参数在它的变 化范围内，取到各个值的机会是相同的，称这个假定为贝叶 斯假设
61概述 61.3贝叶斯网络的应用领域 ●辅助智能决策 ●数据融合 ●模式识别 ●医疗诊断 ●文本理解 1.贝叶斯方法用于分类及回归分析 数据挖掘{2用于因果推理和不确定知识表达 3.用于聚类模式发现 20218/25 忠植高级人工智能
2021/8/25 史忠植 高级人工智能 10 6.1 概 述 6.1.3 贝叶斯网络的应用领域 ⚫ 辅助智能决策 ⚫ 数据融合 ⚫ 模式识别 ⚫ 医疗诊断 ⚫ 文本理解 ⚫ 数据挖掘 1. 贝叶斯方法用于分类及回归分析 2. 用于因果推理和不确定知识表达 3. 用于聚类模式发现