16二、极大似然估计第7章参数估计解不妨设箱子中白球的比例为p，事实上p的取值就是两种可能，即p=0.01或p=0.99，不管是哪种可能，从箱子中任取2个球都是白球这个事件都是可能发生的.但是若p=0.01时，则取得的都是白球的概率为p2=0.01；若p=0.99时，则取得的都是白球的概率为p2=0.992这个计算结果表明，在p=0.99时，则取得的2个球都是白球的概率大，这说明箱子中白球有99个，黑球只有1个的可能性大，即推断P=0.99
第7章 参数估计 16 解 不妨设箱子中白球的比例为 p ，事实上 p 的取值就是两种可能，即 p=0.01或 p=0.99，不 管是哪种可能，从箱子中任取 2 个球都是白球这个事件都是可能发生的.但是 若 p=0.01时，则取得的都是白球的概率为 2 2 p = 0.01 ； 若 p=0.99时，则取得的都是白球的概率为 2 2 p = 0.99 . 这个计算结果表明，在 p=0.99时，则取得的 2 个球都是白球的概率大，这说明箱子中白球有 99 个，黑球只有 1 个的可能性大，即推断 p ˆ=0.99 . 二、极大似然估计
17二、极大似然估计第7章参数估计例6某电商收到供货商提供的一批产品，产品总有合格和不合格两类，我们用一个随机变量X表示其品质，产品是合格的10产品是不合格的显然x服从参数为P的0-1分布，其中P为未知的合格率.现有放回抽取n个产品看其是否合格，得到样本观测值X1，X2，"，xn，则这批观测值发生的概率为P(X,=X.,X,=x,:p)=IIp"(1- p)-"= p2"(1-其中P是未知的
第 7 章 参数估计 17 某电商收到供货商提供的一批产品，产品总有合格和不合格两类，我们用一个随机变量 X 表示其品质， 10 X = 产品是合格的 产品是不合格的 显然 X 服从参数为 p 的 0-1 分布，其中 p 为未知的合格率.现有放回抽取 n 个产品看其是 否合格，得到样本观测值 n x , x , , x 1 2 ，则这批观测值发生的概率为 ( ) ( ) 1 1 1 1 1 1 ( , , ; ) 1 1 n n i i i i i i n x x n x x n n i P X x X x p p p p p = = − − = = = = − = − 其中 p 是未知的. 二、极大似然估计 例6
>>>18二、极大似然估计第7章参数估计分析：和例5的推理方式相似，我们应选择一个P的取值，使得上式表示的概率尽可能大，即将上式看作是未知参数P的函数，我们用L（p）表示，称作为p的似然函数，即L(p)=p2 (I-p)~-2-对L(p)求极大值.由于Inx是x的严格递增的上凸函数，因此使对数似然函数lnL(p)达到最大与使L(p）达到最大是等价的.故上式两端取对数并关于p求导令其等于0，即得如下过程：n(1-x)d lnL(p)nxlnL(p)=nxln p+n(1-x)in(1-p)p=xdp1-pp
第 7 章 参数估计 18 和例 5 的推理方式相似，我们应选择一个 p 的取值，使得上式表示的概率尽可能大，即将 上式看作是未知参数 p 的函数，我们用L p( ) 表示，称作为 p 的似然函数，即 ( ) ( ) 1 1 1 n n i i i i x n x L p p p = = − = − 对L p( ) 求极大值.由于ln x是 x 的严格递增的上凸函数，因此使对数似然函数ln L p( )达到最 大与使 L p( ) 达到最大是等价的.故上式两端取对数并关于 p 求导令其等于 0，即得如下过 程： ln ln 1 ln 1 L p nx p n x p ( ) = + − − ( ) ( ) ln ( ) (1 ) 0, 1 d L p n x n x dp p p− = − = − p x = . 分析： 二、极大似然估计
二、极大似然估计19第7章参数估计极大似然估计的定义：设总体X有分布律P(X=x;の)或密度函数f(xの）（其中θ为一个未知参数或几个未知参数组成的向量0=（0,0,...,0）），已知①，①是参数空间.（,x2x）为取自总体X的一个样本（X，XX，）的观测值，将样本的联合分布律或联合密度函数看成?的函数，用L(①）表示，又称为的似然函数，则似然函数L(0)=P(X,=x;0) ,或L(0)-(x;0)称满足关系式L()=maxL()的解为的极大似然估计量
第7章 参数估计 19 设总体 X 有分布律 P X x ( ; ) = 或密度函数 f x( ; ) （其中 为一个未知参数或几 个未知参数组成的向量 = ( 1 2 , , , k )），已知 ，是参数空间. 1 2 ( , , , ) n x x x 为 取自总体 X 的一个样本( ) X X X n , , , 1 2 的观测值，将样本的联合分布律或联合密度函 数看成的函数，用L( ) 表示，又称为 的似然函数，则似然函数 ( ) 1 ( ; ) n i i i L P X x = = = ，或 ( ) ( ) 1 ; n i i L f x = = 称满足关系式 ( ) ( ) L L ˆ max = 的解 ˆ 为 的极大似然估计量. 极大似然估计的定义： 二、极大似然估计
20第7章参数估计二、极大似然估计当0=(0,02,0）的似然函数L(0)=L(01,02,*., 0k)为可微函数时，则将似然函数取对数：InL(01,02,,0)=-inf(x,01,02,,0k)i=l
第7章 参数估计 20 为可微函数时, 则将似然函数取对数： ( 1 2 1 2 ) ( ) 1 ln θ ,θ , ,θ ln ,θ ,θ , ,θ n k i k i L f x = = 当 的似然函数 L L (θ)= (θ1 2 ,θ , ,θk ) θ=(θ1 2 ,θ , ,θk ) 二、极大似然估计