概率论与数理统计教案第7章参数估计无法进行。则e,为e,的极大似然估计，i=1,2,k．其中（1-5）式称作对数似然方程未知参数的矩估计并不例7设总体X服从几何分布PX=x)=p(1-p)-，x=12.，其中p为未知参唯一，这在应数，且0<p<1.设X..X为X的一个样本，求参数p的极大似然估计用中是不利的．而极大似也是参数p的矩估计量然估计弥补注几何分布的数学期望EX=因此p=Xp了这一缺陷。例8设总体X的概率分布为23X1p?20(1-0)(1-0)2现在观察容量为3的样本，观测值分别为1，2，1，求θ的极大似然估计值，例9设总体X~Nu,)，其中μ与均未知，-00<μ<+0，2>0：设X,X,",X为来自总体X的一个样本，x,x",x为样本观测值，求μ与α的极大蛋然求似然估计导函数的方例10设X,X，X是来自均匀总体U(O,)的一个样本，求参数的极大似然估法是求参数计量.极大似然估计的常用方设θ是θ的极大似然估计，g()是的函数，若g(①)具有单性质1.2(不变性原理）法，但是，并不是对所有值反函数，则g(0)的极大似然估计为g(①)，即g(0)=g(0).的情况都适下面给出常见分布参数的矩估计和极大似然估计，见表1-1用，下面举例说明.表1-1常见分布参数点估计常见分布矩估计极大似然估计B-1BY.二项分布B(n,p),n已知nn均匀分布U(a,b)a-X-/3s.,b=X+/3sa=Xa,b=X(m)泊松分布P(2)i=x元-x2-12-1指数分布E(2)A=X,?=S?正态总体N(u,α)A=X,=s?帆固袜司1.设总体X在(a,b)上服从均匀分布，a,b为未知参数，X,Xz，",X，是来自X的样本，则b的矩估计量为（D）A. XC. X-y3s.D. X+3S,B. S,2.设总体X~B(n,p)，X,X,,",X是来自X的样本，则未知参数p的矩估计量为（），XA. XB. X?C.D. nXn,X）是总体X~N(μ,α2）的样本，则μ的矩估计量为（B）.3.设(X.,X,1117C(X, -x)? D. -(X, -X)?AXAR1n-n-n台ni=1isl-4.设（X,X,,X）是总体X~N(u,α2）的样本，则u的极大似然估计量为（B）沈阳师范大学计算机与数学基础教学部杨淑辉- 112
概率论与数理统计教案 第 7 章 参数估计 沈阳师范大学 计算机与数学基础教学部 杨淑辉 - 112 - 则 i 为 i 的极大似然估计， i k =1,2, , ．其中（1-5）式称作对数似然方程． 例 7 设总体 X 服从几何分布 1 { } (1 )x P X x p p − = = − ，x =1,2, ，其中 p 为未知参 数，且 0 1 p ．设 1 2 , , , X X X n 为 X 的一个样本，求参数 p 的极大似然估计． 注 几何分布的数学期望 1 EX p = ，因此 1 p X = 也是参数 p 的矩估计量． 例 8 设总体 X 的概率分布为 X 1 2 3 p 2 2 (1 ) − 2 (1 ) − 现在观察容量为 3 的样本，观测值分别为 1，2，1，求 的极大似然估计值． 例 9 设总体 2 X N~ ( , ) ，其中 与 2 均未知， − + ， 2 0 ．设 1 2 , , , X X X n 为来自总体 X 的一个样本， 1 2 , , , n x x x 为样本观测值，求 与 2 的极大 似然估计． 例 10 设 1 2 , , , X X X n 是来自均匀总体 U(0, ) 的一个样本，求参数 的极大似然估 计量． 性质 1.2(不变性原理) 设 是 的极大似然估计， g( ) 是 的函数，若 g( ) 具有单 值反函数，则 g( ) 的极大似然估计为 g( ) ，即 g g ( ) ( ) = ． 下面给出常见分布参数的矩估计和极大似然估计，见表 1-1． 表 1-1 常见分布参数点估计 常见分布 矩估计 极大似然估计 二项分布 B n p n ( , ), 已知 X p n = X p n = 均匀分布 U a b ( , ) 3 , 3 n n a X S b X S = − = + (1) ( ) , n a X b X = = 泊松分布 P( ) X = X = 指数分布 E( ) 1 X = 1 X = 正态总体 2 N( , ) 2 2 , X Sn = = 2 2 , X Sn = = 无法进行。 未知参数的 矩估计并不 唯一，这在应 用中是不利 的．而极大似 然估计弥补 了这一缺陷． 虽 然 求 导函数的方 法是求参数 极大似然估 计的常用方 法，但是，并 不是对所有 的情况都适 用，下面举例 说明． *巩固练习 1.设总体 X 在 ( , ) a b 上服从均匀分布， ab, 为未知参数， 1 2 , , , X X X n 是来自 X 的样本，则 b 的矩估计 量为（ D ）. A. X B. n S C. 3 X S − n D. 3 X S + n 2.设总体 X B n p ~ ( , ) ， 1 2 , , , X X X n 是来自 X 的样本，则未知参数 p 的矩估计量为（ C ）. A. X B. 2 X C. X n D. nX 3.设 ( , , , ) X1 X2 Xn 是总体 ~ ( , ) 2 X N 的样本,则 的矩估计量为 ( B ). A. 1 1 1 n i i X n − = B. 1 1 n i i X n = C. = − − n i Xi X n 1 2 ( ) 1 1 D. = − n i Xi X n 1 2 ( ) 1 4.设 ( , , , ) X1 X2 Xn 是总体 ~ ( , ) 2 X N 的样本,则 的极大似然估计量为 ( B )
概率论与数理统计教案第7章参数估计1n1n1 1nBXx,E(X -X)2C.D. -Z(X,-x)A.n-12n-1台n=5.设(X,X2",X）是总体X~N(u,α"）的样本，则α的矩估计量为（D）k111nB.(X, - X) (k =12,..)Z(X -X)A..nn=1nc.1EZ(X -X)2E(X -x)?D. n-1台ni=l6.设θ是总体X的未知参数，是θ的估计量，则有（B）.A.是一个数，近似等于0B.0是一个随机变量C.是一个统计量，且EB=0D.随着n的增大，的值可任意接近θ7.设总体X～N(u,α），μ,α均为未知数.若与分别是的矩估计量和极大似然估计量，则(c).A. G?<G3B. G2>63C. 02=03D. 02±638.对于总体未知参数の，用矩估计法和极大似然估计法所得的估计量（C）A.总是相同B.总是不同C.有时相同，有时不同D.总是有偏的9.设(X,X2，,X,）是总体X～N(u,α）的样本，则α的极大似然估计量为（D）.1n17(X, - X) (k =1,2,...)> (X.uB.-A::nni=l1#1nE(X -x)?E(X - x)D. C?n-1台n=10.设总体X~Ua,bl，由样本X,X....,X求参数a,b的极大似然估计量.1asx<bf(x,a,b)={b-a解总体X的密度函数为[0,其他1a≤x,xx≤b似然函数 L(a,b)=I f(x,a,b)={ (b-a)"i=l[0,其他当a≤xxx≤b时,对数似然函数lnL(a,b)=-nln(b-a)，对数似然方程为oln L(a,b)n=0da-b-aalnL(a,b)_n=0aba-b显然对数似然方程无解，故通过极大似然原理，由于似然函数L(a,b)关于b-a是单调递减函数，要使L(a,b)取到最大值，必须满足使L(a,b)>O，同时b-α取最小值．为使L(a,b)>0，必须满足a≤x,≤b，i=1,2,,n，即a≤minx,=X)，x(n)=maxx,≤b，为使b-a取最小值必须使b取最小值，a取最大值，由于α≤xa)，x(m)≤b，因此只有当a=x)，b=x时，L(a,b)取到最大值，沈阳师范大学计算机与数学基础教学部杨淑辉- 113 -
概率论与数理统计教案 第 7 章 参数估计 沈阳师范大学 计算机与数学基础教学部 杨淑辉 - 113 - A. 1 1 1 n i i X n − = B. 1 1 n i i X n = C. = − − n i Xi X n 1 2 ( ) 1 1 D. = − n i Xi X n 1 2 ( ) 1 5.设 ( , , , ) X1 X2 Xn 是总体 ~ ( , ) 2 X N 的样本,则 2 的矩估计量为 ( D ). A. 1 1 ( ) n i i X X n = − B. ( ) ( 1,2, ) 1 1 − = = X X k n k n i i C. = − − n i Xi X n 1 2 ( ) 1 1 D. = − n i Xi X n 1 2 ( ) 1 6. 设 是总体 X 的未知参数， ˆ 是 的估计量，则有( B ). A. ˆ 是一个数，近似等于 B. ˆ 是一个随机变量 C. ˆ 是一个统计量，且 E ˆ = D.随着 n 的增大， ˆ 的值可任意接近 7. 设总体 2 X N~ ( , ) , 2 , 均为未知数.若 2 1 ˆ 与 2 2 ˆ 分别是 2 的矩估计量和极大似然估计量，则 ( C ). A. 2 1 ˆ < 2 2 ˆ B. 2 1 ˆ > 2 2 ˆ C. 2 1 ˆ = 2 2 ˆ D. 2 1 ˆ 2 2 ˆ 8. 对于总体未知参数 ，用矩估计法和极大似然估计法所得的估计量( C ) A.总是相同 B.总是不同 C.有时相同，有时不同 D.总是有偏的 9.设 ( , , , ) X1 X2 Xn 是总体 ~ ( , ) 2 X N 的样本,则 2 的极大似然估计量为 ( D ). A. = − n i Xi n 1 2 ( ) 1 B. ( ) ( 1,2, ) 1 1 − = = X X k n k n i i C. = − − n i Xi X n 1 2 ( ) 1 1 D. = − n i Xi X n 1 2 ( ) 1 10.设总体 X U a b ~ [ , ] ，由样本 1 2 , , , X X X n 求参数 ab, 的极大似然估计量． 解 总体 X 的密度函数为 1 , ( ; , ) 0, a x b f x a b b a = − 其他 似然函数 1 2 1 1 , , , ( , ) ( ; , ) ( ) 0, n n n i i a x x x b L a b f x a b b a = = = − 其他 当 1 2 , , n a x x x b 时， 对数似然函数 ln ( , ) ln( ) L a b n b a = − − ， 对数似然方程为 ln ( , ) 0 ln ( , ) 0 L a b n a b a L a b n b a b = = − = = − 显然对数似然方程无解，故通过极大似然原理． 由于似然函数 L a b ( , ) 关于 b a − 是单调递减函数，要使 L a b ( , ) 取到最大值，必须满足使 L a b ( , ) 0 ， 同时 b a − 取最小值．为使 L a b ( , ) 0 ，必须满足 i a x b ， i n =1,2, , ，即 (1) 1 min i i n a x x = ， ( ) 1 max n i i n x x b = ，为使 b a − 取最小值必须使 b 取最小值， a 取最大值，由于 (1) a x ， ( ) n x b ，因此 只有当 (1) a x = ， ( ) n b x = 时， L a b ( , ) 取到最大值