第六章参数估计 第6页 二、概率函数P(x,O已知时未知参数的矩法估计 设总体具有已知的概率函数P(x,O1,…,Q),x1 x2,…,xn是样本,假定总体的阶原点矩存在, 若,…,能够表示成…,k的函数 (,…,4),则可给出诸的矩法估计为 6,=6(a1…ak),j=1,…k 其中 5 February 2021 白城师范学院
第六章 参数估计 5 February 2021 白城师范学院 第6页 二、概率函数P(x,θ)已知时未知参数的矩法估计 设总体具有已知的概率函数 P(x, 1 , …, k )， x1 , x2 , …, xn 是样本，假定总体的k阶原点矩k存在， 若1 , …, k 能够表示成 1 , …, k 的函数j = j (1 , …,k )，则可给出诸j 的矩法估计为 其中 1 ˆ ( , , ), 1, , , j j k = = a a j k 1 1 n j j i i a x n = =
第六章参数估计 第7页 例6.1.2设总体服从指数分布,由于EX=1/2, 即λ=1/EX,故λ的矩法估计为 =1/x 另外,由于Var(X=1/,其反函数为 1=1/ 从替换原理来看,A的矩法估计也可取为 1/ s为样本标准差。这说明矩估计可能是不唯一的 这是矩法估计的一个缺点,此时通常应该尽量采 用低阶矩给出未知参数的估计。 5 February 2021 白城师范学院
第六章 参数估计 5 February 2021 白城师范学院 第7页 例6.1.2 设总体服从指数分布，由于EX=1/， 即 =1/ EX，故 的矩法估计为 另外，由于Var(X)=1/ 2，其反函数为 因此， 从替换原理来看，的矩法估计也可取为 s 为样本标准差。这说明矩估计可能是不唯一的， 这是矩法估计的一个缺点，此时通常应该尽量采 用低阶矩给出未知参数的估计。 ˆ =1/ x =1/ Var( ) X 1 ˆ =1/s
第六章参数估计 第8页 例6.13x1,x2…,x是来自(ab)上的均匀分布 U(a,b)的样本,a与b均是未知参数,这里k2, 由于 EX a+6 Var(X) (b 不难推出 a=EX-√var(X),b=EX+√a(x 由此即可得到a,b的矩估计 a=x-√3,b=x+√3s 5 February 2021 白城师范学院
第六章 参数估计 5 February 2021 白城师范学院 第8页 例6.1.3 x1 , x2 , …, xn是来自(a,b)上的均匀分布 U(a,b)的样本，a与b均是未知参数，这里k=2， 由于 不难推出 由此即可得到a, b的矩估计： 2 ( ) , Var( ) , 2 12 a b b a EX X + − = = a EX X b EX X = − = + 3Var( ), 3Var( ), ˆ a x s b x s ˆ = − = + 3 , 3
第六章参数估计 第9页 6.12极(最)大似然估计 定义611设总体的概率函数为P(x,0),⊙是参数 0可能取值的参数空间,x1x2,…,xn是样本 将样本的联合概率函数看成伊的函数,用L(O; xn)表示,简记为L(O), L()=L(6,x1…,xn)=p(x;)·p(x2日)…p(xn;⊙) 称为样本的似然函数。 5 February 2021 白城师范学院
第六章 参数估计 5 February 2021 白城师范学院 第9页 6.1.2 极(最)大似然估计 定义6.1.1 设总体的概率函数为P(x; )，是参数 可能取值的参数空间，x1 , x2 , …, xn 是样本， 将样本的联合概率函数看成 的函数，用L( ; x1 , x2 , …, xn ) 表示，简记为L( )， 称为样本的似然函数。 1 1 2 ( ) ( ; , , ) ( ; ) ( ; ) ( ; ) L L x x p x p x p x = = n n
第六章参数估计 第10页 如果某统计量=x满足,) L(0=max 6∈Q L(O 则称是θ的极(最)大似然估让,简记为MLE Maximum Likelihood Estimate 人们通常更习惯于由对数似然函数n(0)出发寻 找的极大似然估计 当L(0)是可微函数时,求导是求极大似然估计最 常用的方法,对n(0)求导更加简单些 5 February 2021 白城师范学院
第六章 参数估计 5 February 2021 白城师范学院 第10页 如果某统计量 满足 则称 是 的极(最)大似然估计，简记为MLE （Maximum Likelihood Estimate）。 1 ˆ ˆ ( , , ) n = x x ˆ L L ( ) max ( ) = ˆ 人们通常更习惯于由对数似然函数lnL( )出发寻 找 的极大似然估计。 当L( )是可微函数时，求导是求极大似然估计最 常用的方法，对lnL( )求导更加简单些