极大似然估计的原理(教材pl80-181) 设总体X的概率密度函数族为(x;0)(或概率分布函数族为 P(X=x)=p(X;0)),θ∈⊙。 设(x,x2…,xn)为任一组样本观察值(一组抽象的数),则 样本的密度函数(或概率分布)为 L(0)=(x,x2…,x;O)=∏f(x;) 或LO)=1P(x;) 注意,当X是离散型随机变量,因样本观察值是取定的,故 I(0),θ∈⊙仅是θ的函数,对连续型随机变量,仍将L(0) 0∈仅看作0的函数。 若有θ=θ(x,x2,…,x),使L(O)=maxL(O)对几乎所有样 6∈⊙ 本观察值都成立,则称O=B(X1,X2,,Xn)为0的极大似然估 计量,称θ=θ(x,x1,…,xn)为0的极大似然估计值
极大似然估计的原理(教材p180-181) 设总体X的概率密度函数族为f(x； ) (或概率分布函数族为 P(X=x)=p(x ； ) )，。 设 为任一组样本观察值(一组抽象的数)，则 样本的密度函数(或概率分布)为 ( ) 1 2 n x，x ，，x = = = n i n i L L x x x f x 1 1 2 ( ) ( ， ，， ； ) ( ； ). = = n i i L p x 1 (或 ( ) ( ； ) ). 注意，当X是离散型随机变量，因样本观察值是取定的，故 L()， 仅是的函数，对连续型随机变量，仍将L()， 仅看作的函数。 若有 ，使 对几乎所有样 本观察值都成立，则称 为的极大似然估 计量，称 为的极大似然估计值。 ( ) 1 2 n x，x ，，x = ( ) X1，X2，，Xn = ( ) 1 2 n x，x ，，x = ( ) max ( ) L L =
说明:在求极大似然估计量时,先用一组抽象的样本观察值 来求,因而得到的是待估参数θ的极大似然估计值,再用样本 代换样本观察值,才能得到待估参数θ的极大似然估计量。若 用一组具体的样本观察值代入,便可得到待估参数0的具体极 大似然估计值。 求L(0)的极大值:通过dhnL(0) d00,求出b。 说明:1.因为I()是样本观察值的函数(此时样本观察值不变), 故求出的O一般也是样本观察值的函数。 2.由于 dn l(o) =0只是lnL(O)取极值的必要条件,从理论上 来说,还应验证n(O)lnL(0),θ∈6对所有样本观察值都 成立。但这种验证通常是非常困难的,故多不进行验证。 3.若不只一个参数需要估计,也采用同样的方法,只是这时似 然函数是多元函数,要通过令偏导数等于零求出驻点。(具体步 骤见教材p182-183)
说明：在求极大似然估计量时，先用一组抽象的样本观察值 来求，因而得到的是待估参数的极大似然估计值，再用样本 代换样本观察值，才能得到待估参数的极大似然估计量。若 用一组具体的样本观察值代入，便可得到待估参数的具体极 大似然估计值。 通过 ，求出 。 0 ln ( ) = d 求 d L L()的极大值 ： 说明：1. 因为L()是样本观察值的函数(此时样本观察值不变)， 故求出的 一般也是样本观察值的函数。 2. 由于 只是lnL()取极值的必要条件，从理论上 来说，还应验证lnL( ) lnL()， 对所有样本观察值都 成立。但这种验证通常是非常困难的，故多不进行验证。 0 ln ( ) = d d L 3. 若不只一个参数需要估计，也采用同样的方法，只是这时似 然函数是多元函数，要通过令偏导数等于零求出驻点。(具体步 骤见教材p182-183)
例1.设某炸药厂一天中发生着火现象的次数X服从参数为入的 泊松分布,设有以下样本观察值, 着火次数0123456 k 从次着火天数75905422621∑ k 250 1)试用矩估计法估计参数λ; 2)试用极大似然估计法估计参数入; 3)试求P(X=0)的极大似然估计值
例1. 设某炸药厂一天中发生着火现象的次数X服从参数为的 泊松分布，设有以下样本观察值， = 250 75 90 54 22 6 2 1 k次着火天数 着火次数 0 1 2 3 4 5 6 k nk 1) 试用矩估计法估计参数； 2) 试用极大似然估计法估计参数； 3) 试求P(X=0)的极大似然估计值
例2(2002年数学三考研试题填空题) 设总体X的概率密度为(x;:0)=/e(x0),若x≥ 0 右x<. 而X1,X2,…,Xn是来自总体X的简单随机样本,则未知 参数θ的矩估计量为 注:本题是盛骤等编《概率论与数理统计》(第二版)第七章习 题2-4的特例。 例3(2002年数学一考研试题十二题)设总体X的概率分布为 0 02|2(1-0)6 1-20 其中0(0<0<1/2)是未知参数,利用总体X得如下样本值 求θ的矩估计值和极大似然估计值
例2(2002年数学三考研试题填空题) 设总体X的概率密度为 = − − 0 . ( ) ( ) x e x f x x ， 若 ， 若 ， ； 而 是来自总体X的简单随机样本，则未知 参数的矩估计量为______ 。 X1 ，X2 ，，Xn 注：本题是盛骤等编《概率论与数理统计》(第二版)第七章习 题2-4的特例。 例3(2002年数学一考研试题十二题) 设总体X的概率分布为 p 2(1-) 1-2 X 0 1 2 3 2 2 其中 (0<<1/2)是未知参数，利用总体X得如下样本值 3 ， 1 ， 3 ， 0 ， 3 ， 1 ， 2 ， 3 求的矩估计值和极大似然估计值