P(X=,X2 =X2 X3=X3.Xn=Xn) =P(X=x)P(X2=x)P(Xn=x)≈ΠP(x,0) i= 记作L(0) 它是关于日的函数。L(Θ)称为样本的似然函数
1 2 ( ) = = = = x x x x . P X X X X 1 2 3 3 n n , , 记作L( ) θ 它是关于θ的函数。L(θ)称为样本的似然函数。 1 1 2 2 1 = ( ) ( ). ( ) ( , ) n n n i i X x X x X x P x = P P P = = =
由最大似然原理得知,概率越大的事件越容易 发生,在一次试验中的n个事件同时发生的概率应 该比较大; 那么,我们找出这样一个©值,使L()达到最大 值,并将该 值作为的估计,应该是合理的。 定义选择一个使L()达到最大值的作为未知参 数真实值的估计,这种估计称为最大似然估计
由最大似然原理得知,概率越大的事件越容易 发生,在一次试验中的n个事件同时发生的概率应 该比较大; 那么,我们找出这样一个 值,使L(θ)达到最大 值,并将该 值作为 θ的估计,应该是合理的。 定义 选择一个使L(θ)达到最大值的 作为未知参 数θ真实值的估计,这种估计称为最大似然估计
L(x,.,xn0) maxL(x,.,xn0) 0e⊙ 所得估计值是观测值x,.,x的函数,记为 (x,xn)称其为未知参数的最大似然估计值 (X,.,X)称为未知参数的最大似然估计量
1 ˆ ( , , ) X Xn 称为未知参数 的最大似然估计量 1 1 ˆ ( , , ; ) max ( , , ; ) L x x L x x n n =
因此求0就转换为求L(0)的极值问题 般,p(x;0)关于0可导,故0可由下式求得: dL(0)-0. do
ˆ 因此求 就转换为求L( )的极值问题 ( ; ) 一般,p x 关于 可导,故 可由下式求得: ( ) 0. dL d =
又因L(0)与lnL(0)在同一O处取到极值,因此的最 大似然估计0也可从下述方程解得: dlnL(θ) =0 do (2)如果是连续性随机变量,可以用概率密度 函数f(x,O)代替p(x,O)
( ) ln ( ) L L 又因 与 在同一 处取到极值,因此 的最 大似然估计 也可从下述方程解得: f x x ( ; ) p( ; ) (2)如果是连续性随机变量,可以用概率密度 函数 代替 。 ln ( ) 0. d L d =