2最大似然估计法 1)似然函数(样本的联合密度函数) (1)设总体X为连续型,X~f(x;01,2,m),0;为待 估参数(i=1,2,…,m),X1,Ⅹ2,…,Xn为来自该总体的s.r.S,则 X:~f(x1;01,0 (X1,X2,…,Xn)的联合密度函数为(似然函数) L(x,x2,xn;0,02y…,n)=f(x;),2x…,mn 如Ⅹ~F(),即X~f(x;A) X>0 0 0 则 e >0 X;~f(x;) l0 X:≤0 λe^xx1>0,x2>0,,xn>0 L(x,x22x:0)=(x,)=1 0 其它
1) 似然函数(样本的联合密度函数) (1) 设总体X为连续型,X～f(x;θ1,θ2,…θ m), θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 Xi ～f(xi;θ1,θ2,…θ m), (i=1,2,…,m) （X1,X2,…,Xn）的联合密度函数为 = = n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) f(x ; , ,..., ) (似然函数) 如 X~E(λ),即 = − 0 x 0 e x 0 X ~ f(x; ) x 则 = − 0 x 0 e x 0 X ~ f(x ; ) i i x i i i = = n i 1 1 2 n i L(x ,x ,...,x ; ) f(x , ) = = − 0 其 它 e x 0,x 0,...,x 0 1 2 n n i 1 xi 2 最大似然估计法
似然函数(样本的联合分布律) 2)设总体X为离散型,P{X=x}=P(x;θ1,…,m),;为待 估参数(i=1,2,…,m),X1,X2,…,Xn.为来自该总体的sr.sS,则 PX:=x}=P(x;θ1,62,…,n),(i=1,2,,m) (X1,X2,…,Xn)的联合分布律为(似然函数) L(X 1,4295 x;6,2…,6n)=IIP X:461s0250m 如XP(4,即P{X=m=,ePX=x m P(X1;/λ) e 1(x,x2xx;)=正工Px2)=Ae2
似然函数(样本的联合分布律) （2）设总体X为离散型,P{X=x}=P(x;θ1,…,θm),θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 P{Xi=xi}=P(xi;θ1,θ2,…θm), (i=1,2,…,m) （X1,X2,…,Xn）的联合分布律为 = = n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) P(x ; , ,..., ) (似然函数) 如 X~P(λ),即 − = = e m! P{X m} m − = = e x! P{X x} x = = n i 1 1 2 n i L(x ,x ,...,x ; ) P(x , ) − = e x ! P(x ; ) i x i i = − = n i 1 i x e x ! i
2)基本思想 甲.乙两人比较射击技术分别射击目标一次,甲中而乙未中 可以认为甲射击技术优于乙射击技术 事件A发生的概率为01或09,观察一次事件A发生了, 可以认为:事件A发生的概率为09. 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大 最大似然估计就是通过样本值x1y…Xn等数求得总体的 分布参数,使得X1,…,Xn取值为X1,…,Xn的概率最大
2）基本思想 甲.乙两人比较射击技术,分别射击目标一次,甲中而乙未中, 可以认为:甲射击技术优于乙射击技术. 事件A发生的概率为0.1或0.9,观察一次,事件A发生了, 可以认为:事件A发生的概率为0.9. 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大. 最大似然估计就是通过样本值 等数求得总体的 分布参数,使得 取值为 的概率最大. 1 Xn X , , 1 xn x , , 1 xn x ,
样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关,L越大,样本观察值越可能出现.所以 最大似然估计定义为: 若似然函数L(x,x2”…2x:)0,02,…n)在61,02…,6n 取到最大值,则称01,O2…,)n分别为01,O2,)n的 最大似然估计
样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关, L越大, 样本观察值越可能出现. 所以 若似然函数 在 取到最大值,则称 分别为 的 最大似然估计. L(x ,x ,...,x ; , ,..., ) 1 2 n 1 2 m 1 ,2 ,...,m 1 ,2 ,...,m 1 2 m , ,..., 最大似然估计定义为:
3)方法与步骤 设总体的分布密度(或概率密度)f(x;e1,…,0n) 其中θ1,…,0m是待估参数 (1)写出似然函数(即样本的联合密度函数) L=L( ,…,6a)=f(x;,…,0 (2)写出对数似然函数(对似然函数求导) In L ∑nf(x;,…,0n)(只有一个待估参数时求 (3)写出似然方程L=0,i=1,2,…m (4)求解似然方程并写出估计量0,i=1,2,3,…,m
3）方法与步骤 设总体的分布密度(或概率密度) 其中 是待估参数. f(x; , , ) 1 m 1 m , , （1）写出似然函数(即样本的联合密度函数) = = = n i 1 1 n 1 m i 1 m L L(x ,,x ; ,, ) f(x ; ,, ) （2）写出对数似然函数(对似然函数求导) = = n i 1 i 1 m lnL ln f(x ; ,, ) （3）写出似然方程 l n i L = 0,i = 1,2, m （4）求解似然方程并写出估计量 ˆ i ,i = 1,2,3, ,m (只有一个待估参数时求 d ) dlnL