第七章参数估计 ÷7.1点估计 ÷7.1.2极大似然估计法 极大似然估计法的直观想法是:一个试验有若干个 可能的结果A,A2,…,An,,如果在一次试验中A 发生了,那么一般说来作出的估计应该有利于A1的 出现,即使A出现的概率最大 令例如,设甲箱中有99个白球1个黑球,乙箱中有1个 白球99个黑球,今随机取出一箱,再从该箱中任取 球,结果取出的是白球
21 第七章 参数估计 ❖ 7.1 点估计 ❖ 7.1.2 极大似然估计法 ❖ 极大似然估计法的直观想法是：一个试验有若干个 可能的结果A1,A2,…,An ,…，如果在一次试验中A1 发生了，那么一般说来作出的估计应该有利于A1的 出现，即使A1出现的概率最大 . ❖ 例如，设甲箱中有99个白球1个黑球，乙箱中有1个 白球99个黑球，今随机取出一箱，再从该箱中任取 一球，结果取出的是白球
令例如,设甲箱中有99个白球1个黑球,乙箱中有1个 白球99个黑球,今随机取出一箱,再从该箱中任取 球,结果取出的是白球. 我们自然估计这球是从甲箱内取出的,因为从甲箱 中取得白球的概率为99%,远大于自乙箱中取得白球 的概率为1% 令又如,甲(国家级射手)、乙(普通射手)两人射击同 一目标,每人各打一发,结果有一人击中目标,我 们当然估计是甲射中的 冷设总体X的概率密度为f(x;θn,2,…,6m),其中 1,日2,…,m,为未知参数,x1,x2,…,xn是取自总 体的样本值.现在用上述的直观想法来估计 6,.6 2 22
22 ❖ 例如，设甲箱中有99个白球1个黑球，乙箱中有1个 白球99个黑球，今随机取出一箱，再从该箱中任取 一球，结果取出的是白球. ❖ 我们自然估计这球是从甲箱内取出的，因为从甲箱 中取得白球的概率为99%，远大于自乙箱中取得白球 的概率为1%. ❖ 又如，甲(国家级射手)、乙(普通射手)两人射击同 一目标，每人各打一发，结果有一人击中目标，我 们当然估计是甲射中的. ❖ 设总体X的概率密度为f(x; θ1,θ2,…,θ m )，其中 θ1,θ2,…,θ m为未知参数，x1,x2,…,xn是取自总 体的样本值.现在用上述的直观想法来估计 θ1,θ2,…,θ m
设总体X的概率密度为f(x;Bn,日2…,Bm),其中 1,日2,…,m为未知参数,x1,x2,…,xn是取自总 体的样本值 现在用上述的直观想法来估计日1,日2,…,m 令我们知道f(x;1,62,…,m)在x处的值越大,总体 X在x附近取值的概率也越大,而样本(X1,X2,…,Xn) 的概率密度 ∏f(x;,2,…,On) 在(x1,x2,…,xn)处的值越大,样本(X1,X2…,Xn 在x1,x2,…,xn附近取值的概率也越大
23 ❖ 设总体X的概率密度为f(x;θ1,θ2,…,θ m )，其中 θ1,θ2,…,θ m为未知参数，x1,x2,…,xn是取自总 体的样本值. ❖ 现在用上述的直观想法来估计θ1,θ2,…,θ m. ❖ 我们知道f(x;θ1,θ2,…,θ m )在x处的值越大，总体 X在x附近取值的概率也越大，而样本(X1,X2,…,Xn) 的概率密度 = n i i m f x 1 1 2 ( ; , ,, ) ❖ 在(x1,x2,…,xn)处的值越大，样本(X1,X2,…,Xn) 在x1,x2,…,xn附近取值的概率也越大
现在抽样结果是样本值为(x,x2,……,xn),就是说在 次试验中样本(X1,X2,…,X)取样本值 (x1,x2,…,xn)这一事件发生了 冷所以人们作出对61,2,…,Bm的估计时,应有利 于这一事件的发生,即取使 ∏f(x;2,O2,…,On) 今达到最大的 冷作为对n,日2,…,m2的估计 24
24 ❖ 现在抽样结果是样本值为(x1,x2,…,xn)，就是说在 一次试验中样本(X1,X2,…,Xn)取样本值 (x1,x2,…,xn)这一事件发生了. ❖ 所以人们作出对θ1,θ2,…,θ m的估计时，应有利 于这一事件的发生，即取使 = n i i m f x 1 1 2 ( ; , ,, ) ❖ 达到最大的 m ˆ , , ˆ , ˆ 1 2 ❖ 作为对θ1,θ2,…,θ m的估计
令根据这个朴素的想法,英国统计学家费歇耳 (R.A. Fisher)提出了极大似然估计的概念并严格证 明了这一估计的某些优良性 下面称 L=L(1,62,…,n) LO 1525 n;日1,⊙2,…,bn) =I(x; 0,02 为似然函数( likelihood function),对确定的样本 值x1,x2,…,xn,它是1,2,…,6m的函数
25 ❖ 根据这个朴素的想法，英国统计学家费歇耳 (R.A.Fisher)提出了极大似然估计的概念并严格证 明了这一估计的某些优良性. ❖ 下面称 = = = = n i i m n m m f x L x x x L L 1 1 2 1 2 1 2 1 2 ( ; , , , ) ( , , , ; , , , ) ( , , , ) ❖ 为似然函数(likelihood function)，对确定的样本 值x1,x2,…,xn，它是θ1,θ2,…,θ m的函数