生12极大似然估计法 牛极大似然估计的基本思想 ·极大似然原理的直观想法是:一个随机试验 如有若干个可能的结果A,B,C,灬".若在一次试 验中,结果A出现,则一般认为A出现的概率最 工工工 大,也即试验条件对A出现有利或者说在试验 的很多可能条件中,认为应该是使事件A发生 的概率为最大的那种条件存在 上页
§1.2 极大似然估计法 • 极大似然原理的直观想法是:一个随机试验 如有若干个可能的结果A,B,C,….若在一次试 验中,结果A出现, 则一般认为A出现的概率最 大,也即试验条件对A出现有利.或者说在试验 的很多可能条件中，认为应该是使事件A发生 的概率为最大的那种条件存在. 极大似然估计的基本思想
例:假若一个盒子里有许多白球和红球而且已知 它们的数目之比是3:1但不知是白球多还是红球多 A设随机地在盒子中取一球为白球的概率是p如果有 王放回地从盒子里取3个球那么自球数目X服从二项 分布 P(X=k)=cap(l 力)3 2 3 P=1/4时P{X-k}276427649/641/64 P=3/4时P(X=k}16496427/642754 牛如果样本中球数为0则应估计P=1/A而不估计 p=3/4因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大一般当 X=01时应估计p=1/4而当X=2,3时应估计 p=3/4. 上页 圆
k k k P X k C p p − = = − 3 3 ( ) (1 ) X 0 1 2 3 P=1/4 时 P{X=k} 27/64 27/64 9/64 1/64 P=3/4 时 P{X=k} 1/64 9/64 27/64 27/54 • 例：假若一个盒子里有许多白球和红球,而且已知 它们的数目之比是3:1,但不知是白球多还是红球多. 设随机地在盒子中取一球为白球的概率是p.如果有 放回地从盒子里取3个球,那么白球数目X服从二项 分布 如果样本中白球数为0,则应估计p=1/4,而不估计 p=3/4.因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大.一般当 X=0,1时,应估计p=1/4;而当X=2,3时,应估计 p=3/4
王 定义:设总体X的分布类型已知,但含有未知参数0 (1)设离散型总体X的概率分布律为px:O),则样本 (X1,X2Xn)的联合分布律 p(x;)p(x2:0)…p(xn;O)=∏p(x;0) i=1 牛称为似然函数,并记之为03m2 庄②2)设连续型总体X的概率密度函数为2,则样本 午(xx2…X)的联合概率密度函数 f(x:0)f(x20)…f(x1:0)=∏f(x0) i=1 上仍称为似然函数,并记之为0=0xx0=xo
定义:设总体 X 的分布类型已知,但含有未知参数θ. (1)设离散型总体 X 的概率分布律为 p(x; )，则样本 ( , , , ) X1 X2 Xn 的联合分布律 = = n i n i p x p x p x p x 1 1 2 ( ; ) ( ; ) ( ; ) ( ; ) 称为似然函数，并记之为 = = = n i n i L L x x x p x 1 1 2 ( ) ( , ,, ; ) ( ; ). (2) 设连续型总体 X 的概率密度函数为 f (x; )，则样本 ( , , , ) X1 X2 Xn 的联合概率密度函数 = = n i n i f x f x f x f x 1 1 2 ( ; ) ( ; ) ( ; ) ( ; ) 仍称为似然函数，并记之为 = = = n i n i L L x x x f x 1 1 2 ( ) ( , ,, ; ) ( ; )
王 王定义:设总体的分布类型已知,但含有未知参数0 上()设《x,x…x)为总体X的一个样本观察值,若似 然函数L()在0=0x,x2,…x处取到最大值,则称 0(x,x,…,x)为θ的极大似然估计值 (2)设是“为总体X的一个样本,若例不) 为0的极大似然估计值,则称列X,X2…,X为参 c数0的极大似然估计量 上页
定义: 设总体的分布类型已知,但含有未知参数θ. (1)设( , , , ) 1 2 n x x x 为总体 X 的一个样本观察值，若似 然函数L( )在 ( , , , ) ˆ ˆ 1 2 n = x x x 处取到最大值，则称 ( , , , ) ˆ 1 2 n x x x 为θ的极大似然估计值. (2) 设( , , , ) X1 X2 Xn 为总体 X 的一个样本,若 ( , , , ) ˆ 1 2 n x x x 为θ的极大似然估计值, 则 称 ( , , , ) ˆ X1 X2 Xn 为参 数θ的极大似然估计量
设总体的分布类型已知,但含有未知参数0.设 (x,x2…x)为总体ⅹ的一个样本观察值,若似然函数 (O)关于0可导 令 L(6)=0 de 解此方程得θ的极大似然估计值 A(x1,x22", n 庄从而得到0的极大似然估计量x…x) 王因为10与h0具有相同的最大值点 牛解方程m00也可得0的极大似然估计值 0(x1,x2…x)和0的极大似然佔计量O(X,X2…X) 上页
设总体的分布类型已知,但含有未知参数θ.设 ( , , , ) 1 2 n x x x 为总体 X 的一个样本观察值，若似然函数 L( )关于θ可导. ( ) = 0 L d d 令 解此方程得θ的极大似然估计值 ( , , , ) ˆ 1 2 n x x x , 从而得到θ的极大似然估计量 ( , , , ) ˆ X1 X2 Xn . 因 为 L( ) 与 ln L( ) 具 有 相 同 的 最 大 值 点 解方程 ln ( ) = 0 L d d 也 可得 θ的 极 大似 然估 计值 ( , , , ) ˆ 1 2 n x x x 和θ的极大似然估计量 ( , , , ) ˆ X1 X2 Xn