贝叶斯决策论 口生成式模型 P(x,c) CX (77 P(X 口基于贝叶斯定理,P(c|x)可写成 类标记C相对于样本ⅹ的 “类条件概率”(cass conditional probability) 或称“似然”。 P(cx P(c)(x|c) P(x) (78) 先验概率 样本空间中各类样本所占的 “证据”( evidence) 比例,可通过各类样本出现 因子,与类标记无关 的频率估计(大数定理)
贝叶斯决策论 生成式模型 基于贝叶斯定理， 可写成 先验概率 样本空间中各类样本所占的 比例，可通过各类样本出现 的频率估计（大数定理） “证据”（evidence） 因子，与类标记无关 类标记 相对于样本 的 “类条件概率” (classconditional probability), 或称“似然
章节目录 口贝叶斯决策论 口极大似然估计 口朴素贝叶斯分类器 口半朴素贝叶斯分类器 日贝叶斯网 口EM算法
章节目录 贝叶斯决策论 极大似然估计 朴素贝叶斯分类器 半朴素贝叶斯分类器 贝叶斯网 EM算法
极大似然估计 口估计类条件概率的常用策略:先假定其具有某种确定的概率分布形式, 再基于训练样本对概率分布参数估计。 口记关于类别C的类条件概率为P(x|c) ●假设P(xc)具有确定的形式被参数θ。唯一确定,我们的仼务就是利用 训练集D估计参数O
极大似然估计 估计类条件概率的常用策略：先假定其具有某种确定的概率分布形式， 再基于训练样本对概率分布参数估计。 记关于类别 的类条件概率为 ， ⚫ 假设 具有确定的形式被参数 唯一确定，我们的任务就是利用 训练集 估计参数
极大似然估计 口估计类条件概率的常用策略:先假定其具有某种确定的概率分布形式, 再基于训练样本对概率分布参数估计。 口记关于类别C的类条件概率为P(x|c) ●假设P(xc)具有确定的形式被参数θ,唯一确定,我们的任务就是利用 训练集D估计参数O 口概率模型的训练过程就是参数估计过程,统计学界的两个学派提供了 不同的方案: 频率主义学派( frequentist)认为参数虽然未知,但却存在客观值,因此 可通过优化似然函数等准则来确定参数值 贝叶斯学派( Bayesian)认为参数是未观察到的随机变量、其本身也可由 分布,因此可假定参数服从一个先验分布,然后基于观测到的数据计算 参数的后验分布
极大似然估计 估计类条件概率的常用策略：先假定其具有某种确定的概率分布形式， 再基于训练样本对概率分布参数估计。 记关于类别 的类条件概率为 ， ⚫ 假设 具有确定的形式被参数 唯一确定，我们的任务就是利用 训练集 估计参数 概率模型的训练过程就是参数估计过程，统计学界的两个学派提供了 不同的方案： ⚫ 频率主义学派 (frequentist)认为参数虽然未知，但却存在客观值，因此 可通过优化似然函数等准则来确定参数值 ⚫ 贝叶斯学派 (Bayesian)认为参数是未观察到的随机变量、其本身也可由 分布，因此可假定参数服从一个先验分布，然后基于观测到的数据计算 参数的后验分布