2最大似然估计法 1)似然函数(样本的联合密度函数) (1)设总体X为连续型,X~f(x;01,02,0m),0;为待 估参数(i=1,2,…,m),X1,Ⅹ2,…,Xn为来自该总体的s.r.S,则 X:~f(x1;01,0 (X1,X2,…,Xn)的联合密度函数为(似然函数) L(x1,x2x…,2xn;01,02x…,)m)=f(x;01,02…,.m) 如Ⅹ~F(),即X~f(x;) >0 0 X<0 则 e >0 f(x;)= 0 0 L(x,xx:)=T(x,4)= λexx1>0,x2>0,,xn>0 0 其它
1) 似然函数(样本的联合密度函数) (1) 设总体X为连续型,X～f(x;θ1,θ2,…θ m), θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 Xi ～f(xi;θ1,θ2,…θ m), (i=1,2,…,m) （X1,X2,…,Xn）的联合密度函数为 = = n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) f(x ; , ,..., ) (似然函数) 如 X~E(λ),即 = − 0 x 0 e x 0 X ~ f(x; ) x 则 = − 0 x 0 e x 0 X ~ f(x ; ) i i x i i i = = n i 1 1 2 n i L(x ,x ,...,x ; ) f(x , ) = = − 0 其 它 e x 0,x 0,...,x 0 1 2 n n i 1 xi 2 最大似然估计法
似然函数(样本的联合分布律) 2)设总体X为离散型,P{X=x}=P(x;θ1,…,m),6;为待 估参数(i=1,2,…,m),X1,X2,…,Xn.为来自该总体的sr.s,则 PX:=x}=P(x;θ1,62,…,n),(i=1,2,,m) (X1,X2,…,Xn)的联合分布律为(似然函数) n L(X x;01,0 1929°9n 902 ●●●号 0n)=P(x:,02,m) 如XP(4,即PX=m=,ePX=x m P(X1;:λ) e :N)=IIP(x, A)=I
似然函数(样本的联合分布律) （2）设总体X为离散型,P{X=x}=P(x;θ1,…,θm),θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 P{Xi=xi}=P(xi;θ1,θ2,…θm), (i=1,2,…,m) （X1,X2,…,Xn）的联合分布律为 = = n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) P(x ; , ,..., ) (似然函数) 如 X~P(λ),即 − = = e m! P{X m} m − = = e x! P{X x} x = = n i 1 1 2 n i L(x ,x ,...,x ; ) P(x , ) − = e x ! P(x ; ) i x i i = − = n i 1 i x e x ! i
2)基本思想 甲.乙两人比较射击技术分别射击目标一次,甲中而乙未中 可以认为甲射击技术优于乙射击技术 事件A发生的概率为01或0.9,观察一次事件A发生了, 可以认为:事件A发生的概率为09 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大 最大似然估计就是通过样本值X1…Xn等数求得总体的 分布参数,使得X1,…,Xn取值为X1,…,Xn的概率最大
2）基本思想 甲.乙两人比较射击技术,分别射击目标一次,甲中而乙未中, 可以认为:甲射击技术优于乙射击技术. 事件A发生的概率为0.1或0.9,观察一次,事件A发生了, 可以认为:事件A发生的概率为0.9. 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大. 最大似然估计就是通过样本值 等数求得总体的 分布参数,使得 取值为 的概率最大. 1 Xn X , , 1 xn x , , 1 xn x ,
样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关,L越大,样本观察值越可能出现.所以 最大似然估计定义为: 若似然函数L(x,x2x,x1;01,02,,0n)在1,62…0m 取到最大值,则称θ1,02…,)m分别为θ1,02,…,n的 最大似然估计
样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关, L越大, 样本观察值越可能出现. 所以 若似然函数 在 取到最大值,则称 分别为 的 最大似然估计. L(x ,x ,...,x ; , ,..., ) 1 2 n 1 2 m 1 ,2 ,...,m 1 ,2 ,...,m 1 2 m , ,..., 最大似然估计定义为:
3)方法与步骤 设总体的分布密度(或概率密度)f(x;e1,…,0n) 其中θ1,…,0m是待估参数 (1)写出似然函数(即样本的联合密度函数) L=L(x1,…2x;),…,m)=1f(x;,…,m) (2)写出对数似然函数(对似然函数求导) lnL=∑hnf(x;012…,0n)(只有一个待估参数时求 IE (3)写出似然方程n)=0,i=1,2,…m (4)求解似然方程并写出估计量0,i=1,2,3,…,m
3）方法与步骤 设总体的分布密度(或概率密度) 其中 是待估参数. f(x; , , ) 1 m 1 m , , （1）写出似然函数(即样本的联合密度函数) = = = n i 1 1 n 1 m i 1 m L L(x ,,x ; ,, ) f(x ; ,, ) （2）写出对数似然函数(对似然函数求导) = = n i 1 i 1 m lnL ln f(x ; ,, ) （3）写出似然方程 l n i L = 0,i = 1,2, m （4）求解似然方程并写出估计量 ˆ i ,i = 1,2,3, ,m (只有一个待估参数时求 d ) dlnL