沈阳师范大学：《概率论与数理统计》课程授课教案（讲义）第七章 参数估计

教学过程附 注2.极大似然估计的求法设总体X的未知参数为，02，…,.，步骤如下：x"m离散型（1）写出似然函数L（①..0）立(x...)连续型i(2）选择，使L()最大（即求L(①)的最大值点）通常：①先取对数InL(0)dIn L()olnL(e.)②后求导：de0e,③建立似然方程或方程组（令导数为零）aln()=a0解方程求出θ或(i=1,,m)注：若似然方程无解或L(①)不可微，则由定义或其它方法求如当L(の)为θ的单调函数（增或减）时，则θ为θ取值的下限或上限。例1：（离散型）设总体X～P()服从参数为入（入>0）的泊松分布，X1，X.为总体X的样本，求参数入的最大似然估计量。解 X~P(a),EX=令=，解得=为参数的最大似然估计量例2：（连续型）[(α+1)x", 0<x<1设总体X的密度函数为f(x)=(α>-1为未知参数），0,其它,X2，"，x，为来自总体的一组样本观测值，求参数α的最大似然估计值。例3设总体X~N(μ,)，与均未知，-0μ+00，>0，设X,X2",X,为X的一个样本，X,x2",x,为样本值，求μ与的极大似然估计(x-μ)?)解总体X的密度函数为f(x,μ,）exp2g2V2元似然函数

教学过程 附 注 2．极大似然估计的求法 设总体 X 的未知参数为    m , 2 , , 1  ，步骤如下： （1）写出似然函数 2 2 2 1 1 1 1 1 ( ; , , , , ( , , , ) ( ; , , , ) n i m i n m n i m i p x L f x          = =    =      离散型 连续型 （2）选择  ，使 L( )  最大（即求 L( )  的最大值点） 通常：先取对数 ln L( ) 后求导： d L ln ( ) d   或 ln ( i) i L     建立似然方程或方程组（令导数为零） ( ) 0 ln =    L  解方程求出 ˆ  或 ˆ ( 1, , ) i  i m = 注：若似然方程无解或 L( )  不可微，则由定义或其它方法求 ˆ  如当 L( )  为  的单调函数（增或减）时，则 ˆ  为  取值的下限或上限。 例 1：（离散型）设总体 X P( )  服从参数为λ（λ>0）的泊松分布，X1，.， Xn为总体 X 的样本，求参数λ的最大似然估计量。 解 X P( )  , EX =  令  = X ，解得  ˆ = X 为参数  的最大似然估计量 例 2：（连续型） 设总体 X 的 密度 函 数为 ( 1) ,0 1 ( ) ( 1 ) 0, x x f x     +   =  −   为未知参数 其它 ， 1 2 , , , n x x x 为来自总体的一组样本观测值，求参数  的最大似然估计值。 例 3 设总体 2 X N( , )   ,  与 2  均未知， −   +  ， 2   0 ，设 1 2 , , , X X X n 为 X 的一个样本， 1 2 , , , n x x x 为样本值，求  与 2  的极大似然估 计． 解 总体 X 的密度函数为 2 2 2 2 1 ( ) ( ; , ) exp 2 2 x f x        − = −    ， 似然函数

教学过程附注exp1-22(ax-m)L(u,o)=f(x;μ,02)=(2元)2g对数似然函数InL(u,0")=-号(2元")-2(S(x, -m)2,2g2对数似然方程[aln L(u, ) = 0aualn L(μu,o")=002即Z(x, -μ)=0n+1μ)= ((x.2g2204台21月1解得x=x，Z(x -x) ,=nlni=l1n1nSx=X, 0?(X,-X)所以，μ与的极大似然估计分别为μ=ni=lni=l虽然求导函数的方法是求参数极大似然估计的常用方法，但是，并不是对所有的情况都适用，下面举例说明.例4设X,X2,,X是来自均匀总体U(0,①)的一个样本，求参数的极大似然估计量，解总体X的密度函数为[10<x<0(x;0)={"[0,其它(10<X,x2*x,<0似然函数L(①):If(x;0)=i=l[o,其它当0<x，x2,,x<0时，对数似然函数In L(0)=-nlnの,似然方程dln L(①)="=0,de0d ln L(O)<0，所以似然显然对数似然方程无解，故通过极大似然原理，由于de函数L(①)关于G是单调递减函数，要使L(O)取到最大值，必须满足使L(の)>0，同时θ取最小值，为使L(の)>0，必须满足0<x<，i=1,2,n，即0<minf(x)=X(), X(m) =max(x)<0，欲使取最小值，考虑到xm<0，因CnISiSn此只有当の=x(n)时，L(の)取到最大值，故参数θ的极大似然估计量为X(n)

教学过程 附 注 2 2 2 2 2 2 1 1 1 ( , ) ( ; , ) (2 ) exp ( ) 2 n n n i i i i L f x x        − = =   = = − −       ， 对数似然函数 2 2 2 2 1 1 ln ( , ) (2 ) ( ) 2 2 n i i n L x      = = − − −  ， 对数似然方程 2 2 2 ln ( , ) 0 ln ( , ) 0 L L        =      =   即 2 1 2 2 4 1 1 ( ) 0 1 ( ) 0 2 2 n i i n i i x n x      = =  − =    − + − =    解得 1 1 n i i x x n  = = =  ， 2 2 1 1 ( ) n i i x x n  = = −  ， 所以，  与 2  的极大似然估计分别为 1 1 n i i X X n   = = =  ， 2 2 1 1 ( ) n i i X X n   = = −  ． 虽然求导函数的方法是求参数极大似然估计的常用方法，但是，并不是对所有 的情况都适用，下面举例说明． 例 4 设 1 2 , , , X X X n 是来自均匀总体 U(0, )  的一个样本，求参数  的极大 似然估计量． 解 总体 X 的密度函数为 1 , 0 ( ; ) 0, x f x        =    其它 ， 似然函数 1 2 1 1 , 0 , , ( ) ( ; ) 0, n n n i i x x x L f x     =     = =     其它 ， 当 1 2 0 , , , n   x x x  时， 对数似然函数 ln ( ) ln L n   = − ， 似然方程 ln ( ) 0 d L n d    − = = ， 显然对数似然方程无解，故通过极大似然原理，由于 ln ( ) 0 d L d    ，所以似然 函数 L( )  关于  是单调递减函数，要使 L( )  取到最大值，必须满足使 L( ) 0   ， 同 时  取 最小 值．为 使 L( ) 0   ， 必须 满足 0 i   x  ， i n =1,2, , ， 即   (1) 1 0 min i i n x x    = ， ( )   1 max n i i n x x    =  ，欲使  取最小值，考虑到 ( ) n x  ，因 此只有当 ( ) n  = x 时， L( )  取到最大值，故参数  的极大似然估计量为 X( ) n ．