求极大似然估计的一般步骤是: ①由总体分布建立似然函数L(0)=f(x;()一—把自变量x看 成常数,把未知参数=(6,…,6)看成自变量; ②求似然函数L()的最大值点——转化为求InL()的最大值 点,即 1建立似然方程组:mO)=0(i=1,2,…,D), 20解似然方程组得到L()的最大值点 ③将样本X1,X2,…‰n代入最大值点的表达式中,就得未知参数 的极大似然估计量,将样本值x1,x2,xn代入最大值点的表达式 中,就得未知参数的极大似然估计值6 是实数时,似然方程组就是方程dmL()=0 de 下面举例说明如何求极大似然估计
将样本值 x1, x2,…xn 代入最大值点的表达式 中, 就得未知参数的极大似然估计值 ˆ . ——把自变量x看 成常数, 把未知参数 =(1, 2,…, l)看成自变量; —— 转化为求ln L( )的最大值 点, ①由总体分布建立似然函数 L( ) ② 求似然函数L( )的最大值点 求极大似然估计的一般步骤是： ③ 将样本 X1,X2,…Xn 代入最大值点的表达式中, 就得未知参数 的极大似然估计量 ˆ , = = n i f xi 1 ( ; ) 即 1 0 建立似然方程组： 0 ( 1 2 ) , ln ( ) i , , ,l L i = = 2 0 解似然方程组得到L( )的最大值点; 0 . ln ( ) = d d L 是实数时, 似然方程组就是方程 下面举例说明如何求极大似然估计
例1设总体X~B(1,p), 其分布列为 P(x;p)=p(1-p)x,x=0, 1,0,0,1,0,0是取自总体的一组样本值,求参数p的极大似然估计 解样本的似然函数为:L(p)=P(x;p)=Ⅱp(1-p)2x 对数似然函数为:lmL(p)=∑xlnp+2(1-x)ln(1-p) xi In p+(n-2xi)In(1-p) 对p求导并令其为0得似然方程:4mP=几x-=1x)=0, 解之得p的极大似然估计量:=nx=x 代入样本值即得极大似然估计值为:=(+0+0+1+0+0=3
求参数 p 的极大似然估计. = = n i L p P xi p 1 解 样本的似然函数为: ( ) ( ; ) ln ( ) ln (1 )ln(1 ) 1 1 L p x p xi p n i n i = i + − − = = ( ; ) (1 ) , 0, 1, 1 = − = − P x p p p x x x 例1 设总体 X ~ B(1, p), 1, 0, 0, 1, 0, 0 是取自总体的一组样本值, 其分布列为 = − = − n i xi xi p p 1 1 (1 ) 对数似然函数为： ln ( )ln(1 ) 1 1 x p n x p n i i n i = i + − − = = 对 p 求导并令其为0 得似然方程： ( ) 1 ln ( ) 1 1 1 1 = = − − = − n i i n i i n x p x dp p d L p = 0 , , 1 ˆ 1 X X n p n i = i = = 解之得 p 的极大似然估计量： 代入样本值即得极大似然估计值为： . 3 1 (1 0 0 1 0 0) 6 1 p ˆ = + + + + + =
例2设总体X的密度为 f(x:a)sne-r x>0 其它, 其中>0为未知参数,X1,X,…,X是取自总体X的一组样本, 求的极大似然估计量与矩估计量 解(1)样本的似然函数为 L(A)=(x3)=M,>0,=1,,…,n 其他 当x1>0时,L(4)>0,1≤i≤n, 故有对数似然函数:mL()=mm-2x, 对花求导并令其为0可得似然方程:d)="-x=0. 解得极大似然估计量:=mx=是 (2)EX=xf(x;)x=1/,令 X;=X, = 解得矩估计量:元=
= = = − 0 , . , 0, 1 2, , ; 1 其 他 e xi i , n n i xi 解(1) 样本的似然函数为 = = n i xi L f 1 () ( ; ) , 1 = − n i n xi e EX xf x dx + − = ( ; ) 当 xi>0 时, L()> 0, ( ) ln , ln 1 = = − n i L n xi 1 i n， X1, X2, …, Xn 是取自总体X的一组样本, = − 0, , , 0 ( ; ) 其它 e x ； f x x 求的极大似然估计量与矩估计量. 其中>0为未知参数, 例2 设总体X 的密度为 故有对数似然函数： = = − n i xi n d d L 1 ln ( ) 对 求导并令其为0 可得似然方程： = 0, 解得极大似然估计量： = = n i n Xi 1 ˆ 令 , 1 1 1 X X n n i = i = = (2) = 1/ , 解得矩估计量： . 1 ˆ X = ; 1 X =
例3设总体X~N(p,a2), 其中p,2均未知,设 X1,X,Yn是取自X的一个样本.求μ与σ2的极大似然估计量 解样本的似然函数为 (x-)2 L (u,0) f∫(x;,G2) e 202 2兀o 故有对数似然函数hL(,)=-%hza2-nl28(x-2 对和a分别求偏导并令其为0得似然方程组 oIL(p可2)1 (x;-)=0, 估计的 儿 注意到a2是的函数! 不变性(OnL(p2) ao (x2-1)2=0 G2=( A=是EX1=X, 解之得极大似然估计量 a2=12(x-m=B,G=m 正态分布:极大似然估计量=矩估计量
设 X1,X2,…Xn 是取自 X 的一个样本. 解 样本的似然函数为 其中 , 2 均未知, 求 与 2 的极大似然估计量. = = n i xi L f 1 2 2 (, ) ( ; , ) 例3 设总体X~ N(, 2), = − − = n i xi e 1 2 ( ) , 2 1 2 2 故有对数似然函数 = = − − − n i xi n L 1 2 2 2 2 ( ) 2 1 ln 2 2 ln ( , ) = = = , 1 ˆ 1 X X n n i i 解之得极大似然估计量 1 ( ) 0， ln ( , ) 1 2 2 = − = = n i xi L 对 和 2 分别求偏导并令其为 0 得似然方程组： ( ) 0 , 2 1 2 ln ( , ) 1 2 2 2 4 2 = − + − = = n i xi L n = = − n i Xi n 1 2 2 ( ) 1 ˆ 2 3 , ( ) 1 ˆ 1 2 = = − n i xi n = B2 , 2 2 ˆ = ( ˆ ) 估计的 不变性 注意到 2是 的函数 ! 正态分布：极大似然估计量 === 矩估计量