当前位置：和泉文库 > 数学 > 浏览文档

沈阳师范大学：《概率论与数理统计》课程教学资源（教案讲义）第7章参数估计

文件格式：PDF，文件大小：913.7KB，售价：5.31元

文档详细内容（约20页）

第7章参数估计概率论与数理统计教案取值范围为参数空间，记为①，例1设某工厂生产的一批铆钉头部直径X（单位：mm）服从正态分布N（u,0.12）.现要检验铆钉头部直径，从这批产品中随机抽取7只，测得头部直径如下：13.3213.4813.5413.3113.3413.4713.44试估计参数μ.由样本构造统计量X，以该统计量的观测值x作为未知参数μ的一个估计值设总体X的分布函数F(xの)形式已知，为未知参数，θ?，是未知参数θ所有可能的取值范围，这里e可以表示一个参数，也可以表示若于个参数组成的参数向量=(e,2,",），设XX2,,X，是从这个总体中抽取的一个样本，X,x2,,x是相应的样本观测值，点估计就是研究如何由样本X,X2",X，提供的信息对未知参数θ作出估计，即构造一个合适的统计量e(X,X2"",X,），用它的观测值(x,2",x）作为未构造点估计量的方法有知参数的估计值，称e(X,X,",X）为的估计量，称(x,2",x）为的估计值1多种，最典型的是矩估计（在不致混淆的情况下，统称为估计量，记作）法和极大似如果总体X的分布函数F(x,,2,",)中含有k个不同的未知参数，则需由样本然估计法矩估计X,X,",X,构造k个统计量(X,X2,",X）（1≤i≤k）作为相应参数,（1≤i≤k）法是由英国的点估计统计学家K.皮尔逊(K. Pearson)二、矩估计在20世纪初引进的一种1.矩估计的基本思想寻找估计量的简单易算的方法．它的由辛钦大数定律知，当样本容量充分大时，若总体X的数学期望EX存在，则样本均基本思想是：值X依概率收敛于EX：用样本矩估2．矩估计的求法计相应的总体矩，用样本矩的函数估设总体X的分布函数中有k个未知参数,，X,X,..X是取自X的样计相应的总本，假定总体X的k阶原点矩存在，以m记总体的r阶原点矩，即m=EX，r≤k，体矩的函数.1n易知它们是e,，,,的函数，以A记样本的r阶原点矩，即A=-X，由辛钦大n=数定律知，当n充分大时，A,→m,，所以令A,=m,，r=1,2,k，具体做法如下：①求出总体的的前k阶原点矩：m,=g,(0,0,,...,0),r=1,2,...k②从这k个方程中解出"",：,=h,(m,m,*",m), r=1,2,..k.③用A,分别代替上式中的m,，r=1,2,,k，则可以得到总体未知参数,，,的矩估计量①.④2·：：0，矩估计量的观测值称为矩估计值.矩估计量与矩估计值统称为矩估计，记为ME.例2设X，X*"，X为来自总体X的一个样本，不论总体X服从什么分布，若EX=u，DX=，但都未知，求μ与α的矩估计量.例3设总体X服从参数为入的泊松分布，无未知，求元的矩估计注求参数矩估计时，如果能用低阶的矩估计，就不要用高阶的矩估计，例如，若总体X～U(O,①），0未知，则θ可以通过期望或方差表示，沈阳师范大学计算机与数学基础教学部杨淑辉- 109 -

概率论与数理统计教案第 7 章参数估计沈阳师范大学计算机与数学基础教学部杨淑辉 - 109 - 取值范围为参数空间，记为  ．例 1 设某工厂生产的一批铆钉头部直径 X （单位：mm）服从正态分布 2 N( ,0.1 )  ．现要检验铆钉头部直径，从这批产品中随机抽取 7 只，测得头部直径如下： 13.32 13.48 13.54 13.31 13.34 13.47 13.44 试估计参数  ．由样本构造统计量 X ，以该统计量的观测值 x 作为未知参数  的一个估计值．设总体 X 的分布函数 F x( ; )  形式已知，  为未知参数，   ， 是未知参数  所有可能的取值范围，这里  可以表示一个参数，也可以表示若干个参数组成的参数向量 1 2 ( , , , )     = k ．设 1 2 , , , X X X n 是从这个总体中抽取的一个样本， 1 2 , , , n x x x 是相应的样本观测值，点估计就是研究如何由样本 1 2 , , , X X X n 提供的信息对未知参数  作出估计，即构造一个合适的统计量 1 2 ( , , , )  X X X n ，用它的观测值 1 2 ( , , , ) n  x x x 作为未知参数  的估计值，称 1 2 ( , , , )  X X X n 为  的估计量，称 1 2 ( , , , ) n  x x x 为  的估计值（在不致混淆的情况下，统称为估计量，记作  ）．如果总体 X 的分布函数 1 2 ( ; , , , ) F x   k 中含有 k 个不同的未知参数，则需由样本 1 2 , , , X X X n 构造 k 个统计量 1 2 i( , , , )  X X X n （ 1 i k ）作为相应参数 i （ 1 i k ）的点估计．二、矩估计 1．矩估计的基本思想由辛钦大数定律知，当样本容量充分大时，若总体 X 的数学期望 EX 存在，则样本均值 X 依概率收敛于 EX ． 2．矩估计的求法设总体 X 的分布函数中有 k 个未知参数 1 2 , , ,   k ， 1 2 , , , X X X n 是取自 X 的样本，假定总体 X 的 k 阶原点矩存在，以 mr 记总体的 r 阶原点矩，即 r m EX r = ， r k  ，易知它们是 1 2 , , ,   k 的函数，以 A r 记样本的 r 阶原点矩，即 1 1 n r r i i A X n = =  ，由辛钦大数定律知，当 n 充分大时， p A m r r → ，所以令 A m r r = ， r k =1,2, ．具体做法如下： ① 求出总体的的前 k 阶原点矩： 1 2 ( , , , ) m g r r k =    ， r k =1,2, ． ② 从这 k 个方程中解出 1 2 , , ,   k ： 1 2 ( , , , ) r r k  = h m m m ， r k =1,2, ． ③ 用 A r 分别代替上式中的 mr ，r k =1,2, , ，则可以得到总体未知参数 1 2 , , ,   k 的矩估计量    1 2 , , , k ，矩估计量的观测值称为矩估计值．矩估计量与矩估计值统称为矩估计，记为 ME ．例 2 设 1 2 , , , X X X n 为来自总体 X 的一个样本，不论总体 X 服从什么分布，若 EX =  ， 2 DX = ，但都未知，求  与 2  的矩估计量．例 3 设总体 X 服从参数为  的泊松分布，  未知，求  的矩估计．注求参数矩估计时，如果能用低阶的矩估计，就不要用高阶的矩估计．例如，若总体 X U~ (0, )  ， 未知，则  可以通过期望或方差表示，构造点估计量的方法有多种，最典型的是矩估计法和极大似然估计法矩估计法是由英国统计学家 K. 皮尔逊 (K.Pearson) 在 20 世纪初引进的一种寻找估计量的简单易算的方法．它的基本思想是：用样本矩估计相应的总体矩，用样本矩的函数估计相应的总体矩的函数．

概率论与数理统计教案第 7 章参数估计沈阳师范大学计算机与数学基础教学部杨淑辉 - 110 - 2 EX  = ， 2 12 DX  = ，根据矩估计思想，可以得到  的两个矩估计  2X  = 或者是 2 3 n  S  = ,习惯上采用第一个矩估计，同时说明了参数矩估计是不唯一的．例 4 一类电子产品的寿命 X 服从双参数指数分布 E( , )   ，其概率密度为 ( ) , ( ) 0 , x e x f x x      − −   =    其中     0, 0 为未知参数，求参数  , 的矩估计．性质 1 若   为  的矩估计量， g( )  为  的连续函数，则 g( )   是 g( )  的矩估计量．例 5 设总体 X B n p ~ ( , ) ，n 已知， p 未知， 1 2 , , , X X X n 为其样本，求（1） p 的矩估计量；（2） 1 p − p 的矩估计量．三、极大似然估计 1．极大似然估计的基本思想例 6 设有外形完全相同的两个箱子，甲箱中有 99 个白球 1 个黑球，乙箱中有 1 个白球 99 个黑球．今随机地抽取一箱，并从中随机抽取一球，结果取得白球，问这球是从哪一个箱子中取出？ 2．极大似然估计的求法 1）离散总体设 1 2 , , , X X X n 为取自具有概率分布 p x( ; )  的总体的一个样本，其中 1 2 ( , , , )     =  k 为未知参数．若 1 2 , , , n x x x 为样本的一个观测值，则随机事件 1 1 2 2 { , , , } X x X x X x = = = n n 发生的概率为 1 1 2 2 1 1 2 2 1 { , , , } { } { } { } ( ; ) n n n n n i i P X x X x X x P X x P X x P X x p x  = = = = = = = = = 上式可视为  的函数，我们把它记作 L( )  ，并称 1 ( ) ( ; ) n i i L p x   = = 为似然函数．似然函数 L( )  的大小表示该样本值出现的可能性大小．根据极大似然估计的基本思想，既然事件 1 1 2 2 { , , , } X x X x X x = = = n n 已经发生，它发生的概率应是最大，求出使 L( )  达到最大的  的值 1 2 ( , , , ) n   x x x   = 作为参数  的极大似然估计，记作 MLE ．即 1 ( ) max ( ; ) n i i L p x      = =  2）连续总体设 1 2 , , , X X X n 为取自具有概率密度 f x( ; )  的总体的一个样本，其中在一次试验中，某一事件已经发生，则必然认为取使该事件发生的概率达到最大的待估参数所取的值作为待估参数的估计值，这就是极大似然估计的基本思想．

概率论与数理统计教案第 7 章参数估计沈阳师范大学计算机与数学基础教学部杨淑辉 - 111 - 1 2 ( , , , )     =  k 为未知参数．若 1 2 , , , n x x x 为样本的一个观测值，则随机点 ( X X X 1 2 , , , n ) 落入点 ( x x x 1 2 , , , n ) 的边长分别为 1 2 , , , n    x x x 的 n 维矩形邻域内的概率近似等于 1 ( ; ) n i i i f x x  =   ，同样是  的函数．根据极大似然估计的基本思想，可取使 1 ( ; ) n i i i f x x  =   达到最大的  的值 1 2 ( , , , ) n   x x x   = 作为参数  的极大似然估计．由于 ( 1,2, , ) i  = x i n 是不依赖于  的增量，因而只需使得 1 ( ; ) n i i f x  =  达到最大的   作为参数  的极大似然估计，这里取 1 ( ) ( ; ) n i i L f x   = = 作为连续总体 X 的似然函数．为了计算上的方便，我们通常对似然函数取对数，因为 ln x 关于 x 是单调递增函数，使 ln ( ) L  达到最大的   也使 L( )  达到最大．综上所述，如果在已知分布中有 k 个待估参数 1 2 , , ,   k ，我们有如下方法求它们的极大似然估计．第一步写出似然函数 1 2 1 1 2 1 2 1 ( ; , , , ), ( , , , ) ( ; , , , ) n i k i k n i k i P x L f x          = =    =      离散总体，连续总体（1-3）第二步对（1-3）式两端取对数 1 2 1 1 2 1 2 1 ln ( ; , , , ), ln ( , , , ) ln ( ; , , , ) n i k i k n i k i P x L f x          = =    =      离散总体，连续总体（1-4）第三步对（1-4）式关于 i 求偏导， i k =1,2, , ，然后令其为零，得到方程组 1 2 1 1 2 2 1 2 ln ( , , , ) 0 ln ( , , , ) 0 ln ( , , , ) 0 k k k k L L L              =      =      =    解方程组得 1 1 1 2 2 2 1 2 1 2 ( , , , ) ( , , , ) ( , , , ) n n k k n x x x x x x x x x              =    =      = 极大似然估计法最初由德国数学家高斯 (Gauss) 于 1821 年提出，但未得到重视．费歇尔 (R.A.Fisher )在 1922 年再次提出极大似然估计的想法，并探讨了它的性质，使之得到广泛的研究和应用．矩估计法的缺陷：若总体原点矩不存在，则矩估计

点击进入文档下载页（PDF格式）

共20页，可试读7页，点击继续阅读 ↓↓

您可能感兴趣的文档

点击购买下载（PDF）

下载及服务说明

购买前请先查看本文档预览页，确认内容后再进行支付；
如遇文件无法下载、无法访问或其它任何问题，可发送电子邮件反馈，核实后将进行文件补发或退款等其它相关操作；
邮箱：

文档浏览记录