《概率论与数理统计》课程教学课件（PPT讲稿）参数估计

根据这个朴素的想法，英国统计学家费歇耳(R.A.Fisher)提出了极大似然估计的概念并严格证明了这一估计的某些优良性下面称L = L(0,02,...,0m)= L(xi,X2,...,Xn;01,02,"",0m)nIIf(x;01,02,.., 0m)i=-1为似然函数（likelihoodfunction），对确定的样本值x1,X2,.….,Xn，它是 1， 2,.……，m的函数.26

26 ❖ 根据这个朴素的想法，英国统计学家费歇耳 (R.A.Fisher)提出了极大似然估计的概念并严格证 明了这一估计的某些优良性. ❖ 下面称 = = = = n i i m n m m f x L x x x L L 1 1 2 1 2 1 2 1 2 ( ; , , , ) ( , , , ; , , , ) ( , , , )              ❖ 为似然函数(likelihood function)，对确定的样本 值x1,x2,.,xn，它是θ1,θ2,.,θ m的函数

若有0, =0,(x,X2,*, xn使得L(①,0,...,0m)L(0,0,,:.:,0mmax01,02,.,0om则称, =0,(,x2,* xn)是，(j-1,2，.….,m)的极大似然估计量（maximumlikelihood estimator).27

27 ❖ 若有 ( , , , ) ˆ ˆ j j 1 2 n  = x x  x ❖ 使得 ) max ( , , , ) ˆ , , ˆ , ˆ ( 1 2 , , , 1 2 1 2 L m L m m             = ❖ 则称 ( , , , ) ˆ ˆ j j 1 2 n  = x x  x ❖ 是θj (j=1,2,.,m)的极大似然估计量(maximum likelihood estimator)

由于lnx是x的单调函数，使n L(o,0,,...,0.)n L(①,02,..:,0m) max一01,02,*.,0m成立的0也使式L(0,02,...,0m) =L(0,02,..:,0m)max01,02,**.,0m成立.28

28 ❖ 由于lnx是x的单调函数，使 max ln ( , , , ) ) ˆ , , ˆ , ˆ ln ( 1 2 , , , 1 2 1 2 m m L L m             = ❖ 成立的  j ˆ ❖ 也使式 ) max ( , , , ) ˆ , , ˆ , ˆ ( 1 2 , , , 1 2 1 2 L m L m m             = ❖ 成立

为了计算方便，常从式In L(0,O,,.., Om)n L(①,02,...,0m max01,02,*.,0m来求29

29 ❖ 为了计算方便，常从式 max ln ( , , , ) ) ˆ , , ˆ , ˆ ln ( 1 2 , , , 1 2 1 2 m m L L m             = ❖ 来求 . ˆ  j

通常采用微积分学求函数极值的一般方法，即从方程 (组)an L:0, j =1,2, ::,m00求得InL的驻点，然后再从这些驻点中找到满足式n L(o,0,,..,0m)n L(,02,..:,0mmax0,,2,., m的30

30 ❖ 通常采用微积分学求函数极值的一般方法，即从方 程(组) j m L j 0, 1,2, , ln = =     ❖ 求得lnL的驻点，然后再从这些驻点中找到满足式 max ln ( , , , ) ) ˆ , , ˆ , ˆ ln ( 1 2 , , , 1 2 1 2 m m L L m             = ❖ 的 . ˆ  j