第4章基于统计决策的概率分类法
第4章基于统计决策的概率分类法研究对象及相关概率4.14.2贝叶斯决策4.3贝叶斯分类器的错误率4.4聂曼-皮尔逊决策4.5概率密度函数的参数估计4.6概率密度函数的非参数估计后验概率密度分类的势函数方法4.7
4.1 研究对象及相关概率 4.2 贝叶斯决策 4.3 贝叶斯分类器的错误率 4.4 聂曼-皮尔逊决策 4.5 概率密度函数的参数估计 4.6 概率密度函数的非参数估计 4.7 后验概率密度分类的势函数方法 第4章 基于统计决策的概率分类法
4.1研究对象及相关概率1.两类研究对象获取模式的观察值时，有二种情况：*确定性事件：事物间有确定的因果关系。第三章内容水随机事件：事物间没有确定的因果关系，观察到的特征具有统计特性，是一个随机向量。只能利用模式集的统计特性进行分类，使分类器发生分类错误的概率最小。2.相关概率1）概率的定义设2是随机试验的基本空间（所有可能的实验结果或基本事件的全体构成的集合，也称样本空间），A为随机事件，P(A)为定义在所有随机事件组成的集合上的实函数，若P（A满足：
获取模式的观察值时，有二种情况： * 确定性事件：事物间有确定的因果关系。第三章内容。 * 随机事件：事物间没有确定的因果关系，观察到的特征具有 统计特性，是一个随机向量。只能利用模式集的统计特性进 行分类，使分类器发生分类错误的概率最小。 1. 两类研究对象 2. 相关概率 1）概率的定义 设Ω是随机试验的基本空间（所有可能的实验结果或基本 事件的全体构成的集合，也称样本空间），A为随机事件，P(A) 为定义在所有随机事件组成的集合上的实函数，若P(A)满足： 4.1 研究对象及相关概率
（1对任一事件A有：0<PA)<1。事件的全体(2) P(2)=1, 2（3）对于两两互斥的事件A，A2，..有P(A + A, +...)= P(A)+ P(A)+...则称函数P(A）为事件A的概率。2）概率的性质（1）不可能事件V的概率为零，即P(V)-0。(2) P(A)=1-P(A)联合概率P(AB)：A，B同时发生的概率(3) P(AUB)= P(A)+ P(B)-P(AB3）条件概率定义设A、B是两个随机事件，且P(B)>0，则称P(AI B)- PAB)(4-1)P(B)为事件B发生的条件下事件A发生的条件概率
（3）对于两两互斥的事件A1，A2，.有 P(A1 + A2 +) = P(A1 )+ P(A2 )+ （1）对任一事件A有：0≤P(A)≤1。 （2）P(Ω)=1， Ω——事件的全体 则称函数P(A)为事件A的概率。 设A、B是两个随机事件，且P(B)>0，则称 为事件B发生的条件下事件A发生的条件概率。 3）条件概率定义 ( ) ( ) P(B) P AB P A| B = （2）P(A)=1− P(A) （3）P(AB)= P(A)+ P(B)−P(AB) （1）不可能事件V的概率为零，即P(V)=0。 2）概率的性质 联合概率P(AB)： A，B同时发生的概率 (4-1)
4）条件概率的三个重要公式：（1）概率乘法公式：如果P(B)>0，则联合概率(4-2)P(AB)=P(B) P(AB)=P(A) P(BIA)=P(BA)（2）全概率公式：设事件A，A2，...，An，两两互斥，且ZA =2, P(A)>0, i=1,2,.,ni=1则对任一事件B有：P(B)= P(A,)P(B/ A,)(4-3)（3）贝叶斯公式：在全概率公式的条件下，若P(B)>0，则将(4-2)，（4-3)式代入(4-1)式中，有：P(A)P(BIA)P(A, IB)= (4-4)Z P(A,)P(B A)P(A|B)- P(AB)il(4-1)P(B)
（1）概率乘法公式：如果P(B)>0，则联合概率 P(AB)= P(B) P(A|B) = P(A) P(B|A) =P(BA) （3）贝叶斯公式：在全概率公式的条件下，若P(B)>0，则将 (4-2)，(4-3)式代入(4-1)式中，有： ( ) ( ) ( ) ( ) ( ) = = n i i i i i i P A P B A P A P B A P A B 1 | | | (4-4) 4）条件概率的三个重要公式： A Ω P(Ai ) i n n i i , 0, 1,2, , 1 = = = 则对任一事件B有： ( ) ( ) ( )i n i P B P Ai P B | A 1 = = （2）全概率公式：设事件A1 ， A2 ，. ，An，两两互斥，且 ( ) ( ) ( ) | = (4 −1) P B P AB P A B (4-2) (4-3)