极大似然法 基本原理:在参数空间中,选择一个参数的估计, 使得观察值出现的概率最大。 设总体X为离散型随机变量,它的分布律为 P{X=x}=P(x,0) 其中为未知参数,样本观察值x1,X2.x,根据极 大似然思想,如何用x,x2…x估计0?
极大似然法 基本原理：在参数空间中，选择一个参数的估计， 使得观察值出现的概率最大。 设总体X为离散型随机变量，它的分布律为 PX x P x { } (, ) = = θ 其中 为未知参数,样本观察值x1,x2,…xn,, 根据极 大似然思想，如何用x1,x2,…xn估计θ? θ
L(0)=P(X1=x1,X2=x2,…Xn=xn} ∏x,) 称函数L(0)为似然函数。 设总体X为连续型随机变量,它的密度函数为 Xf(r, 0) 其中0为未知参数,样本观察值x,x2…xn,似然函数 L()如何写?
记 1 12 2 ( ) { , , } L PX x X x X x θ == = = " n n 1 ( , ). n i i p x θ = =∏ 称函数 为 L( ) θ 似然函数。 设总体X为连续型随机变量，它的密度函数为 X fx ~ (, ) θ 其中 为未知参数,样本观察值x1,x2,…xn,,似然函数 L( ) θ 如何写? θ
连续型总体的似然函数 L()=f(x,) 定义71.2:设总体X仅含一个未知参数Q, 并且总体的分布律或密度函数已知,x1,x2 x3,…,xn为一组样本观察值。若存在0的一个 值θ(x1,…,xn)使得0=0时 L(e)=maxl(0) 则称θ(x12…,xn是θ的极大似然估计值。统 计量0(X1…,Xn 是0的极大似然估计值
1 ( ) ( , ). n i i L fx θ θ = =∏ 连续型总体的似然函数 定义7.1.2：设总体X仅含一个未知参数 ， 并且总体的分布律或密度函数已知，x1, x2 x3, …, xn为一组样本观察值。若存在 的一个 值 ，使得 时 θ 1 ˆ (, , ) n θ x x ! θ ˆ θ θ = 则称 是 的极大似然估计值。统 计量 是 的极大似然估计值。 1 ˆ (, , ) n θ x x ! 1 ˆ (,, ) θ X X ! n θ θ ˆ L L ( ) max ( ) θ θ =
极大似然法的一般步骤: ()与出似然函数:()=f(x) 或=∏(x,0) (2)对似然函数求对数;=1 (3)对求对数后的似然函数求导; (4)令导数为0;解方程 In L(0)=0 de (5)方程的解为未知参数的极大似然估计
极大似然法的一般步骤： (1)写出似然函数； (2)对似然函数求对数； 1 ( ) ( , ). n i i L fx θ θ = = ∏ 1 ( , ). n i i p x θ = 或 = ∏ (4)令导数为 0；解方程 ln ( ) 0. d L d θ θ = (5) 方程的解为未知参数的极大似然估计。 (3)对求对数后的似然函数求导；
例:设x1,…,为取自总体B(m,p),的样本, 其中m已知,0<p<1未知,求p的极大似然估计
例：设X1， … ， Xn为取自总体B(m,p),的样本， 其中m已知，0<p<1未知，求p的极大似然估计