海南大学：《概率论与数理统计》课程教学资源（教案讲义）ch7 参数估计 第一讲 点估计、基于截尾样本的最大似然估计、估计量的评选标准

第一讲点估计基于截尾样本的最大似然估计估计量的评选标准 I.授课题目（章节） §7.1点估计 §7.2基于截尾样本的最大似然估计 §7.3估计量的评选标准 Ⅱ.教学目的与要求 1.会用矩估计法进行参数估计： 2.掌握最大似然估计法： 3.知道两种截尾寿命实验下的最大似然估计法： 了解估计量常用的三个评选标准 Ⅲ.教学重点与难点： 重点：矩估计法和最大似然估计法的应用 难点：最大似然估计法的应用 V.讲授内容： §7.1点估计 估计问题 总体X的分布函数的形式已知，有一个或多个未知参数，借助其样 本估计总体未知参数的值. 例1.在某炸药厂，一天中发生着火现象的次数X是一个随机变量，假设它服 从以为参数入>0的泊松分布，参数入为未知.现有以下的样本值，试估计参数入 着火次数k 0123456 发生k次着火的天数n75905422621=250 解由于X~π()，故有入=E(X).用样本均值来估计总体均值. X=每 250[0X75+1×90+2×54+3×2+4×65X2+6x1]l.2 得E(X)=元的估计为1.22， 点估计问题 设总体X的分布函数F(x;0)的形式已知，日是待估参数，构造一个适当统计量 (X,X2,.,Xn),用它的观察值(x,x2,.,xn)作为未知参数0的近似值.。 称X,X2,Xn)为8的估计量，9x,x2,.,xn)为8的估计值. 在例1中用样本均值来估计总体均值，有 估计最=0之，m-0估计值=B0之x2 n 二、矩估计法 矩估计法：用样本矩作为相应的总体矩的估计量，而以样本矩的连续函数作为相

第一讲点估计 基于截尾样本的最大似然估计 估计量的评选标准 Ⅰ.授课题目（章节） §7.1 点估计 §7.2 基于截尾样本的最大似然估计 §7.3 估计量的评选标准 Ⅱ.教学目的与要求 1. 会用矩估计法进行参数估计； 2. 掌握最大似然估计法； 3. 知道两种截尾寿命实验下的最大似然估计法； 4. 了解估计量常用的三个评选标准. Ⅲ.教学重点与难点： 重点：矩估计法和最大似然估计法的应用 难点：最大似然估计法的应用 Ⅳ.讲授内容： §7.1 点估计 一、估计问题：总体 X 的分布函数的形式已知，有一个或多个未知参数，借助其样 本估计总体未知参数的值. 例1. 在某炸药厂，一天中发生着火现象的次数 X 是一个随机变量，假设它服 从以为参数   0 的泊松分布，参数  为未知.现有以下的样本值，试估计参数  . 着火次数 k 0 1 2 3 4 5 6 发生 k 次着火的天数 k n 75 90 54 22 6 2 1  = 250 解 由于 X ～ () ,故有  = E(X ) .用样本均值来估计总体均值.   = = = 6 0 6 0 k k k k n kn x = 250 1 [0×75+1×90+2×54+3×22+4×6+5×2+6×1]=1.22. 得 E(X ) =  的估计为 1.22. 点估计问题: 设总体 X 的分布函数 F ( x; )的形式已知, 是待估参数,构造一个适当统计量 ( , , , ) ˆ  X1 X2  Xn ,用它的观察值 ( , , , ) ˆ 1 2 n  x x  x 作为未知参数  的近似值. 称 ( , , , ) ˆ  X1 X2  Xn 为  的估计量, ( , , , ) ˆ 1 2 n  x x  x 为  的估计值. 在例 1 中用样本均值来估计总体均值,有 估计量  = ˆ  E(X) = = n k X k n 1 1 , n =250. 估计值  = ˆ  E(X) = = n k k x n 1 1 =1.22. 二、矩估计法 矩估计法：用样本矩作为相应的总体矩的估计量,而以样本矩的连续函数作为相

应的总体矩的连续函数的估计量 设X为连续型随机变量，其概率密度为f(x:日，6，.，0)，或X为离散型随机 变量，其分布律为P{X=x}=px:日，日，.，0)，其中日，82，.，日为待估参 数，X,X2,X是来自X的样本假设总体X的前k阶矩 4,=E(X')=x'fx:8,8,.,0）dk （X为连续型) 或 4,=E(X)=∑xpx:0,82,.,0) (X为离散型》 (1=1,2,.,k)(R是X可能取值的范围)存在.样本矩为 4=2x n 矩估计法的具体做法：设 41=41(8,82,.,8) 4,=4,(08,.,8,)(这是包含k个参数日，品，.，日的方程组) 4k=44(8,82,.,Bg) 解出上面的方程组，得到 81=8(41,42,.,4g2 02=02(041,42,.,4 8=841,42,.,4) 以A,分别代替上式中的4，i=12,k,就以日=日(4,4，4)，i=l2.,k 分别作为8,1=1,2，.，k的估计量，这种估计量称为矩估计量，矩估计量的观察值称 为矩估计值. 例2.设总体X在[a,b]上服从均匀分布，a,b未知.X,X2,Xn是来自X 的样本，试求a,b的矩估计量. 解 =E(X)=a+b 4=X 2 4=Ex3)=6-a)2 (a+b)2' 4=2x' 12 4 n (a+b=X 4=A 得 2 42=A (b-a)2 +a+b)21 X 12 4

应的总体矩的连续函数的估计量. 设 X 为连续型随机变量,其概率密度为 f (x ;    k , , , 1 2  ) ,或 X 为离散型随机 变量,其分布律为 P{X = x} = p(x ;    k , , , 1 2  ) , 其中    k , , , 1 2  为待估参 数, X1 , X Xn , , 2  是来自 X 的样本.假设总体 X 的前 k 阶矩  l = ( ) l E X =   − l x f (x ;    k , , , 1 2  ) dx ( X 为连续型) 或  l = ( ) l E X =  RX x l x p(x ;    k , , , 1 2  ) ( X 为离散型) ( l = 1,2,  , k )( RX 是 X 可能取值的范围)存在.样本矩为 = = n i l l Xi n A 1 1 矩估计法的具体做法:设        = = = ( , , , ). ( , , , ) ( , , , ), 1 2 2 2 1 2 1 1 1 2 k k k k k                    (这是包含 k 个参数    k , , , 1 2  的方程组) 解出上面的方程组,得到        = = = ( , , , ). ( , , , ), ( , , , ), 1 2 2 2 1 2 1 1 1 2 k k k k k                    以 Ai 分别代替上式中的  i , i = 1,2,  , k ,就以 ( , , , ) ˆ i =i A1 A2  Ak ,i = 1,2,  , k 分别作为  i ,i = 1,2,  , k 的估计量,这种估计量称为矩估计量, 矩估计量的观察值称 为矩估计值. 例 2.设总体 X 在[ a,b ]上服从均匀分布, a,b 未知. X1 , X Xn , , 2  是来自 X 的样本,试求 a,b 的矩估计量. 解        + + − = = + = = 4 ( ) 12 ( ) ( ) 2 ( ) 2 2 2 2 1 b a a b E X a b E X   ,      = = = n i Xi n A A X 1 2 2 1 1 , 令    = = 2 2 1 1 A A   得        = + + − = + = n i Xi n b a a b X a b 1 2 2 2 1 4 ( ) 12 ( ) 2

a+b=2 即 6-a=22x- 解得 a=x-,22x,-x 3x,-) 例3.已知X,X2,.,X来自指数分布，求0的矩估计量. 解4=汉，4-xe杰=0 令4=A,解得=灭为0的矩估计量 另外：若有容量为3的样本：1250,1150,1200，则X=1200,故有0=1200为矩估 计值. 例4.设总体X的均值4及方差σ2都存在，且有σ2>0.但4，σ2均为未知 又设X,X2,.,X是来自X的样本.试求4，o2的矩估计量。 解 =E(X)= 4= 4=EX)=DX)+[EX2=a2+2, 4,=x n台 u=X 令 4=A 4=A 2+2-2x [i= 解得 62=12x,-2 n 注：所得结果表明，总体均值与方差的矩估计量表达方式不因不同的总体分布而 异 例如，X~N(4,c2),4,σ2未知，即得4，o2的矩估计量为 i=X 6=2x-0 n 三、最大似然估计法

即      − = − + = = n i Xi X n b a a b X 1 3 2 2 2 2 解得 a ˆ = X - 2 1 ( ) 3 = − n i Xi X n , b ˆ = X + 2 1 ( ) 3 = − n i Xi X n . 例 3.已知 X1 , X Xn , , 2  来自指数分布,求  的矩估计量. 解 A1 = X ,   − =  = 0 1 1     x e dx x . 令 1 = A1 ,解得  ˆ = X 为  的矩估计量. 另外:若有容量为 3 的样本:1250,1150,1200,则 X = 1200 ,故有 1200 ˆ  = 为矩估 计值. 例 4. 设总体 X 的均值  及方差 2  都存在，且有 0 2   .但  , 2  均为未知. 又设 X1 , X Xn , , 2  是来自 X 的样本.试求  , 2  的矩估计量. 解    = = + = + = = 2 2 2 2 2 1 ( ) ( ) [ ( )] ( )      E X D X E X E X ,      = = = n i Xi n A A X 1 2 2 1 1 , 令    = = 2 2 1 1 A A   得      + = = = n i Xi n X 1 2 2 1 2    解得      = − = = n i Xi X n X 1 2 2 ( ) 1 ˆ ˆ   . 注:所得结果表明，总体均值与方差的矩估计量表达方式不因不同的总体分布而 异. 例如， X ～ N (  , 2  ),  , 2  未知，即得  , 2  的矩估计量为      = − = = n i Xi X n X 1 2 2 ( ) 1 ˆ ˆ   . 三、最大似然估计法

若总体X属离散型，其分布律P{X=x}=p(x),O∈⊙的形式为已知，0为 待估参数，⊙是9可能取值的范围.设X,X2,.,X,是来自X的样本，则 X,X2,Xn的联合分布律为 1px;0) 又设x,x2,xn是相应于样本X,X2,Xn的一个样本值，我们易得事件 {化=x,X2=x2,X。=x,}发生的概率为 L(0)=L(x1,x2,xn:0)=Πp(x:8),0e日 这一概率随0的取值而变化，它是0的函数，称L()为样本的似然函数. 若总体X属连续型，其概率密度f(x:)的形式已知，0为待估参数，日是0可 能取值的范围.设X,X,X是来自X的样本，则X,X2,X的联合密度为 fx:0) 又设x,x2,xn是相应于样本X,X2,Xn的一个样本值，则随机点(X, X,X,)落在点(x,出，x,)的领域（边长分别为水，.杰n的n维立方体） 内的概率近似地为 x) 考虑函数 L(0=(x,x,xn:0)=fx;8) 同样称L()为样本的似然函数， 最大似然估计法的方法： 固定样本观察值x,x2,·,x。，在0取值的可能范围内日挑选使似然函数 L(x,2,x0)达到最大的参数值日，作为参数0的估计值。即取0使 (,x,xn:0)=max(,x,xn0) 这样得到的日与样本值，x,x,有关，0(x,x,x)称为参数0的最大似然估 计值，而相应的统计量0(X,X2,·,X,)称为参数的最大似然估计量 晶大似然估计法的先娶· 1.写出样本的似然函数L(: 2.令品40)=0或品h40)=0这方程称为时数似然方相。 3.解上面的方程即得0. 例5.设X~bL,p),X,X2,Xn是来自X的样本

若总体 X 属离散型，其分布律 P{X = x} = p(x;) ,  的形式为已知，  为 待估参数，  是  可能取值的范围. 设 X1 , X Xn , , 2  是来自 X 的样本，则 X1 , X Xn , , 2  的联合分布律为 = n i i p x 1 ( ; ) 又设 n x , x , , x 1 2  是相应于样本 X1 , X Xn , , 2  的一个样本值，我们易得事件 { , , , } 1 1 2 2 n n X = x X = x  X = x 发生的概率为 L( ) = L( n x , x , , x 1 2  ;  ) == n i i p x 1 ( ; ) ,  这一概率随  的取值而变化，它是  的函数，称 L( ) 为样本的似然函数. 若总体 X 属连续型，其概率密度 f (x; ) 的形式已知，  为待估参数，  是  可 能取值的范围.设 X1 , X Xn , , 2  是来自 X 的样本，则 X1 , X Xn , , 2  的联合密度为 = n i i f x 1 ( ; ) 又设 n x , x , , x 1 2  是相应于样本 X1 , X Xn , , 2  的一个样本值，则随机点( X1 , X Xn , , 2  )落在点( n x , x , , x 1 2  )的领域(边长分别为 dx1 ,dx2 ,  dxn 的 n 维立方体) 内的概率近似地为 = n i i f x 1 ( ; ) dxi 考虑函数 L( ) = L( n x , x , , x 1 2  ;  ) == n i i f x 1 ( ; ) 同样称 L( ) 为样本的似然函数. 最大似然估计法的方法: 固定样本观察值 n x , x , , x 1 2  ，在  取值的可能范围内  挑选使似然函数 L( n x , x , , x 1 2  ;  ) 达到最大的参数值  ˆ ，作为参数  的估计值。即取  ˆ 使 L( n x , x , , x 1 2  ;  ˆ )=  max L( n x , x , , x 1 2  ;  ) 这样得到的  ˆ 与样本值 n x , x , , x 1 2  有关，  ˆ ( n x , x , , x 1 2  )称为参数  的最大似然估 计值，而相应的统计量  ˆ ( X1 , X Xn , , 2  )称为参数的最大似然估计量. 最大似然估计法的步骤: 1. 写出样本的似然函数 L( ) ; 2. 令 ( ) = 0  L d d 或 ln ( ) = 0  L d d (这方程称为对数似然方程); 3. 解上面的方程即得  ˆ . 例 5.设 X ～b(1, p) , X1 , X Xn , , 2  是来自 X 的样本

(1)求参数p的矩估计量： (2)求参数p的最大似然估计量. 解(1)A=x，4=E(X)=p. 令4=A,解得户=灭为p的矩估计量 (2)X的分布律为PX=x}=p(1-p),x=0,1,设x1x2,.,xn是相 应于样本X,X2,X的一个样本值，则似然函数为 Up-Ie- 于是hp-立xhp+a-店x)M-pm: -x 令 p)= dp =0，解得p的最大似然估计值为 P P-1 D-IEx-x 于是p的最大似然估计量为=∑X,=X. n台 例6.设X~N(4,o2),4,o2未知，x,x2,.,xn是来自X的一个样本值 求4，。2的最大似然估计量 解X的概率密度为 f(x4,σ2)= 2元exp2ax-0] 似然函数为 L(u,)-12aewta6-0 =2 x上2a2x- 而

(1) 求参数 p 的矩估计量; (2) 求参数 p 的最大似然估计量. 解 (1) A1 = X , 1 = E(X) = p . 令 1 = A1 ,解得 p ˆ = X 为 p 的矩估计量. (2) X 的分布律为 x x P X x p p − = = − 1 { } (1 ) , x = 0,1 ,设 n x , x , , x 1 2  是相 应于样本 X1 , X Xn , , 2  的一个样本值，则似然函数为 = − = − n i x x i i L p p p 1 1 ( ) (1 ) =  − = = − n i i n i i x n x p p 1 1 (1 ) , 于是 ln ( ) ln ( )ln(1 ) 1 1 L p x p n x p n i i n i =  i + − − = = . 令 0 1 ln ( ) 1 1 = − − = +   = = p n x p x L p dp d n i i n i i ,解得 p 的最大似然估计值为 x x n p n i =  i = =1 1 ˆ 于是 p 的最大似然估计量为 X X n p n i =  i = =1 1 ˆ . 例 6.设 X ～ N (  , 2  ),  , 2  未知， n x , x , , x 1 2  是来自 X 的一个样本值, 求  , 2  的最大似然估计量. 解 X 的概率密度为 ( ; , ) 2 f x   = 2 1 exp ( ) ] 2 1 [ 2 2   − x − 似然函数为 L (  , 2  )= = n i 1 2 1 exp ( ) ] 2 1 [ 2 2   − xi − = / 2 2 / 2 (2 ) ( ) −n −n   exp ( ) ] 2 1 [ 1 2 2 = − − n i i x   而 = = − − − − n i i x n n L 1 2 2 2 ( ) 2 1 ln( ) 2 ln( 2 ) 2 ln    