§12极大似然估计法 极大似然估计的基本思想 极大似然原理的直观想法是:一个随机试验 如有若干个可能的结果A,B,C,"若在一次试 验中,结果A出现,则一般认为A出现的概率最 大,也即试验条件对A出现有利或者说在试验 的很多可能条件中,认为应该是使事件A发生 的概率为最大的那种条件存在 上或
§1.2 极大似然估计法 • 极大似然原理的直观想法是:一个随机试验 如有若干个可能的结果A,B,C,….若在一次试 验中,结果A出现, 则一般认为A出现的概率最 大,也即试验条件对A出现有利.或者说在试验 的很多可能条件中，认为应该是使事件A发生 的概率为最大的那种条件存在. 极大似然估计的基本思想
王 ·例:假若一个盒子里有许多白球和红球而且已知 它们的数目之比是31但不知是白球多还是红球多 设随机地在盒子中取一球为白球的概率是p如果有 放回地从盒子里取3个球那么白球数目X服从二项 分布P(X=k)=CP(-p)3 0 2 3 P=1/4时PX+k}27/6427/649641/64 P=3/4时P{X=k}1/6496427/6427/54 王如果样本中白球数为0则应估计P=/4而不估计 Arp=3/4因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大一般当 X=01时应估计p=1/4而当X=2,3时应估计 p=3/4 上页 圆
k k k P X k C p p − = = − 3 3 ( ) (1 ) X 0 1 2 3 P=1/4 时 P{X=k} 27/64 27/64 9/64 1/64 P=3/4 时 P{X=k} 1/64 9/64 27/64 27/54 • 例：假若一个盒子里有许多白球和红球,而且已知 它们的数目之比是3:1,但不知是白球多还是红球多. 设随机地在盒子中取一球为白球的概率是p.如果有 放回地从盒子里取3个球,那么白球数目X服从二项 分布 如果样本中白球数为0,则应估计p=1/4,而不估计 p=3/4.因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大.一般当 X=0,1时,应估计p=1/4;而当X=2,3时,应估计 p=3/4
王 定义:设总体X的分布类型已知,但含有未知参数0. (1)设离散型总体X的概率分布律为xO),则样本 (x,X2…X)的联合分布律 p(x1:0)p(x0)…p(xn;0)=1p(x:0) 称为似然函数,并记之为L()=1(x1x…x,0)=Px0 (2)设连续型总体X的概率密度函数为f(xO),则样本 (X1,A2…Xn)的联合概率密度函数 f(x0)f(x2:0)…f(x20)=f(x;0) i=1 王仍称为似然函数,并记之为(010 上圆國回
定义:设总体 X 的分布类型已知,但含有未知参数θ. (1)设离散型总体 X 的概率分布律为 p(x;)，则样本 ( , , , ) X1 X2 Xn 的联合分布律 = = n i n i p x p x p x p x 1 1 2 ( ;) ( ; ) ( ; ) ( ; ) 称为似然函数，并记之为 = = = n i n i L L x x x p x 1 1 2 ( ) ( , ,, ; ) ( ; ). (2) 设连续型总体 X 的概率密度函数为 f (x; )，则样本 ( , , , ) X1 X2 Xn 的联合概率密度函数 = = n i n i f x f x f x f x 1 1 2 ( ; ) ( ; ) ( ; ) ( ; ) 仍称为似然函数，并记之为 = = = n i n i L L x x x f x 1 1 2 ( ) ( , ,, ; ) ( ; )
王 定义:设总体的分布类型已知,但含有未知参数θ ()设cx~x为总体X的一个样本观察值,若似 然函数L(6)在θ=6x,x2…x)处取到最大值,则称 0(x1x2∵…;x,)为0的极大似然估计值 出(2)设(xx…x)为总体X的一个样本,若Mx…x) 为0的极大似然估计值,则称O(X,X2…x为参 数θ的极大似然估计量. 上或
定义: 设总体的分布类型已知,但含有未知参数θ. (1)设( , , , ) 1 2 n x x x 为总体 X 的一个样本观察值，若似 然函数L( )在 ( , , , ) ˆ ˆ 1 2 n = x x x 处取到最大值，则称 ( , , , ) ˆ 1 2 n x x x 为θ的极大似然估计值. (2) 设( , , , ) X1 X2 Xn 为总体 X 的一个样本,若 ( , , , ) ˆ 1 2 n x x x 为θ的极大似然估计值, 则 称 ( , , , ) ˆ X1 X2 Xn 为参 数θ的极大似然估计量
王 设总体的分布类型已知,但含有未知参数0.设 出(x2…x)为总体X的一个样本观察值,若似然函数 L(O)关于0可导 令 L(⊙)=0 de 解此方程得θ的极大似然估计值θ(x1,x2,x 王从而得到0的极大似然估计量Xx2x…x) 因为L(0)与hO)具有相同的最大值点 解方程d(0)=0也可得0的极大似然估计值 x)和0的极大似然估计量xx 上
设总体的分布类型已知,但含有未知参数θ.设 ( , , , ) 1 2 n x x x 为总体 X 的一个样本观察值，若似然函数 L( )关于θ可导. ( ) = 0 L d d 令 解此方程得θ的极大似然估计值 ( , , , ) ˆ 1 2 n x x x , 从而得到θ的极大似然估计量 ( , , , ) ˆ X1 X2 Xn . 因 为 L( ) 与 ln L() 具 有 相 同 的 最 大 值 点 解方程 ln ( ) = 0 L d d 也 可得 θ的 极 大似 然估 计值 ( , , , ) ˆ 1 2 n x x x 和θ的极大似然估计量 ( , , , ) ˆ X1 X2 Xn