离散型:设X1;…,n Xn~p(x;6),b∈⊙ 称L(0)=L(x,…,xn;日)=1P(x:0) 为样本的似然函数 注:x1,x2,…xn是已知的样本值,为常数 连续型:似然函数的定义为:O)=∏f(x;0) 设X12…,Xn~f(x;O),O∈⊙ L()=L(x,…,xn;0)=∏f(x;0)
为样本的似然函数。 ∏ = = = ∈ Θ n i n i iid n L L x x p x X X p x 1 1 1 ( ) ( , , ; ) ( ; ) , , ~ ( ; ), , θ θ θ θ θ L L 称 离散型：设 ∏ = = n i i L f x 1 (θ ) ( ;θ ) 注：x1,x2,…xn是已知的样本值，为常数。 连续型：似然函数的定义为： ∏ = = = ∈ Θ n i n i iid n L L x x f x X X f x 1 1 1 ( ) ( , , ; ) ( ; ) , , ~ ( ; ), , θ θ θ θ θ L 设 L
似然函数L(O)=p(x;O),L(O)=∏f(x;0) 总体X为离散型时,L(0是事件Ⅸ1X1,…,X1=xn}发 生的概率。 总体X为连续型时,设点(x1…,xn)的领域为边长 分别为dx1…,dxn的n维立方体。 随机点(X1,Xn)该领域内的概率近似为: ∏f(x:O)。但∏不随改变 故只需考虑函数If(xO)=L()
∏ = = n i i L f x 1 似然函数 (θ ) ( ;θ ) • 总体X为离散型时， L(θ)是事件{X1=x1, …,Xn=xn}发 生的概率。 ( ) ( ; ), 1 ∏ = = n i i L θ p x θ • 总体X为连续型时，设点 （x1,…,xn）的领域为边长 分别为dx1,…,dxn的n 维立方体。 随机点（X1,…,Xn）该领域内的概率近似为： ∏ 。 = n i i dxi f x 1 ( ;θ ) 但∏dxi不随θ改变， ( ; ) ( ) 1 f x θ L θ n i ∏ i = = 故只需考虑函数
定义:若有日∈,使得 或 L(0)=maxL(0)=Supl(0) 6∈Q 6∈⊙ 则称日为θ的最大似然估计 这样得到的与x,x2,…x有关,常记为 0(x,x2…x,是饼的最大似然估计值 0(X1,X2,…Xn)是最大似然估计量
, ^ 定义：若有 θ ∈Θ ( ) max ( ) ( ), ^ θ θ θ θ θ L L Sup L ∈Θ ∈Θ = = 或 使得 则称 为θ的最大似然估计. ∧ θ 是 的 这样得到的 与 有关，常记为 θ θ θ ( , , ), ˆ , , ˆ 1 2 1 2 n n x x x x x x L L 最大似然估计值 θ ˆ (X1, X2 ,LXn )是θ的 最大似然估计量
3、求极大似然估计的步骤 (1)写出似然函数 L(O)=1m(x;0,L()=1f(x;0) (2)取对数,写出nL(6 (3)列对数似然方程[nL(O)0 de 若该方程有解,则其解就是0的最大似然估计值。 =6(x,…,xn)
3、求极大似然估计的步骤 (1) 写出似然函数 (2) 取对数，写出 ln L(θ ) 0 [ln ( )] = θ θ d d L (3) 列对数似然方程 若该方程有解，则其解就是θ的最大似然估计值。 ( , , ) ˆ ˆ 1 n θ =θ x L x ( ) ( ; ), 1 ∏ = = n i i L θ p x θ ∏ = = n i i L f x 1 (θ ) ( ;θ )
注1:若概率函数中含有多个未知参数,则可 解方程组 aIn l =0,或 0 06 06 得出各个θ的最大似然估计θ,j=1,…,m 183例5:正态分布两个参数的最大似然估计
注1：若概率函数中含有多个未知参数，则可 解方程组 , 1, , . 0 ln 0, ^ j m L L j j j j = L = ∂ ∂ = ∂ ∂ θ θ θ θ 得出各个 的最大似然估计 或 p183 例5：正态分布两个参数的最大似然估计