似然函数 (1)离散型总体设总体X分布律P{X=x}=p(x;b), 6∈⊙为待估参数,⊙是可能取值的范围.设X,X2,Xn是来自 X的样本,样本观察值为x1,x2,…xn,则(X,X2,…,Xn)的联 合分布律为 x 14-2 2,54-n xn}=(x,), i=1 对固定的样本观察值x,x2,…xn,它是未知参数的函数记为 L()=L(x1,x2…yxn;()=p(x;(),∈⊙ 称其为样本的似然函数 (2)连续型总体设总体X的概率密度为f(x;日),6∈⊙为未知参数, 此时定义样本的似然函数为: L()=-L(x1x2…xn;0)=f(x;),日∈
似然函数 (1)离散型总体 设总体X分布律 为待估参数,是可能取值的范围.设X1 , X2 , …,Xn是来自 X的样本，样本观察值为x1 , x2 , …,xn ,则 (X1 , X2 , …,Xn )的联 合分布律为 { , , , } ( , ), 1 1 1 2 2 = = = = = n i n n i P X x X x X x p x ( ) ( , ; ) ( ; ) , 1 1, 2 = = = n i n i L L x x x p x 对固定的样本观察值x1 , x2 , …,xn ，它是未知参数的函数.记为 称其为样本的似然函数. (2)连续型总体 设总体X的概率密度为f (x; ),为未知参数， ( ) ( , ; ) ( ; ) , 1 1, 2 = = = n i n i L L x x x f x 此时定义样本的似然函数为: P{X = x} = p( x; )
定义若存在θ=6(x1,x2…,xn),使得 L(0=axlE) 6∈Q 则称6(x1,x2…,xn)为6的最大似然估计值, 称(X1,X2“,Xn)为0的最大似然估计量 如何求L()的最大值? 由于L(0)与MnL(0)在已上有相同的最大值点,所以 求L()的最大值点可以改为求InL(0)的最大值点 当nL()关于θ可微时,必满足方程: aIn L(8) 000,(i=1,2…,)—对数似然方程(组) 当nL(6)关于不可微时,回到原式定义
0 ln ( ) = d d L 则称 ˆ (x1 , x2 , , xn ) 为 的最大似然估计值， 定义 若存在 ，使得 如何求L( )的最大值? ( , , , ) ˆ X1 X2 Xn 称 为 的最大似然估计量. 当lnL( )关于 可微时,必满足方程: 由于L( )与 lnL( )在上有相同的最大值点,所以 求L( )的最大值点可以改为求 lnL( ) 的最大值点. ) max ( ) ˆ ( L L = 0,( 1,2,..., ----- ) 对数似然方程 ln ( ) i k L i i = = (组) ( , , , ) ˆ ˆ 1 2 n = x x x 当lnL( )关于 不可微时，回到原式定义
例3设X-b(1,p),X1,X2,…Xn是来自X的一个样本, 求参数p的最大似然估计量 解设x1,x2,…,x是相应于X1,X2,…,Nn一个样本值, X的分布律为P{Xx}=p(1-p)1x,x=0,1, 故似然函数为 ∑x n∑x L(P )kx=p(1-p) 于是IL(p) xi)Inp+(n ∑ x;)ln(1-p) ∑ ∑ X;=Ⅹ 似然估计值似然估计量
例3 设X~b(1, p), X1 , X2 , …,Xn是来自X的一个样本, 求参数 p 的最大似然估计量. 解 设x1 , x2 , …, xn是相应于X1 , X2 , …,Xn一个样本值, X的分布律为 P{X=x}=p x (1-p) 1-x , x=0,1, 故似然函数为 = − = − n i x x i i L p p p 1 1 ( ) (1 ) − = = = − n i i n i i x n x p p 1 1 (1 ) ln ( ) ( )ln ( )ln(1 ) 1 1 L p x p n x p n i i n i = i + − − = = ln L( p) = 0 dp d , 1 ˆ 1 x x n p n i i = = = X X n p n i i = = =1 1 ˆ 似然估计值 似然估计量 令 于是
例4设总体X~NH,G2),,02均未知,又设X1,X2,xn 为总体X的样本,x1,x2,xm为X的一组样本观测值, 试求μσ2的最大似然估计值量 2 解X的概率密度为f(x;A,a2)= r-u exp 2兀G 20 2 似然函数为L(A,a2) exp一 ∑ (x1-p) (√2兀a) 20i=1 lnL=-lm(2丌)-l 2 20 ∑ 似然方程 lnL=2∑(x-)=0 =X, InL +,∑(x-2=0 ∑(xX2-X)2 2a22a
= − = = 2 1 2 ( ) 1 ˆ ˆ , x x n x n i i 例4 设总体X~N(,2 ),,2均未知，又设X1 , X2 ,...,Xn 为总体X 的样本, x1 , x2 ,…, xn为X的一组样本观测值， 试求,2 的最大似然估计值量. = − = = 2 1 2 ( ) 1 ˆ ˆ , X X n X n i i − = − 2 2 2 2 ( ) exp 2 1 ( ; , ) x 解 f x 似然函数为 − = − = 2 2 1 2 2 ( ) exp 2 1 ( , ) i n i x L = − − = n i i n x 1 2 2 ( ) 2 1 exp ( 2 ) 1 似 然 方 程 = − + − = = − = = = ( ) 0 2 1 2 ln ( ) 0 1 ln 1 2 2 2 4 1 2 n i i n i i x n L L x = = − − − − n i i x n n L 1 2 2 2 ( ) 2 1 ln 2 ln( 2 ) 2 ln X的概率密度为
例5设总体X~U(n,b),a,b均未知,又设X,X2,…,Yn 为总体X的样本,x1,x2,,x为X的一组样本观测值, 试求a,b的极大似然估计值量.(用定义) a=min X:b=max X 1<isn 1<i<n 例6设总体X服从参数为θ指数分布,求θ的极 大似然估计值量 6=X
i i n i i n a X b X = = 1 1 max ˆ ˆ min , 例5 设总体X~U(a, b), a, b 均未知，又设X1 , X2 ,...,Xn 为总体X 的样本, x1 , x2 ,…, xn为X的一组样本观测值， 试求a, b 的极大似然估计值量.(用定义) 例6 设总体 X 服从参数为 指数分布，求 的极 大似然估计值量. = X ˆ