第八章对数极大似然估计 EViews包含了一些常用方法,如最小二乘法、非线性 最小二乘法、加权最小二乘法、TSIS、GMM、 ARIMA ARCH、 GARCH等方法,这些方法可以解决可能遇到的 大多数估计问题。但是,我们在研究中也可能会碰到一些 不在上述之列的特殊的模型,这些模型可能是现存方法的 一个扩展,也可能是一类全新的问题。 为了能解决这些特殊的问题, EViews提供了对数极大 似然估计对象这一工具来估计各种不同类型的模型。对数 极大似然估计对象提供了一个一般的,开放的工具,可以 通过这个工具极大化相关参数的似然函数对一大类模型进 行估计
1 EViews包含了一些常用方法,如最小二乘法、非线性 最小二乘法、加权最小二乘法、TSLS、GMM、ARIMA、 ARCH、GARCH等方法,这些方法可以解决可能遇到的 大多数估计问题。但是,我们在研究中也可能会碰到一些 不在上述之列的特殊的模型,这些模型可能是现存方法的 一个扩展,也可能是一类全新的问题。 为了能解决这些特殊的问题,EViews提供了对数极大 似然估计对象这一工具来估计各种不同类型的模型。对数 极大似然估计对象提供了一个一般的,开放的工具,可以 通过这个工具极大化相关参数的似然函数对一大类模型进 行估计。 第八章 对数极大似然估计
使用对数极大似然估计对象估计时,我们用EⅤiews 的序列生成器,将样本中各个观测值的对数似然贡献描述 为一个未知参数的函数。可以给出似然函数中一个或多个 参数的解析微分,也可以让 EViews自动计算数值微分。 EViews将寻找使得指定的似然函数最大化的参数值,并 给出这些参数估计的估计标准差。 在本章,我们将详细论述对数极大似然估计对象, 说明其一般特征。并给出了一些可以使用该方法的具体的 例子
2 使用对数极大似然估计对象估计时,我们用EViews 的序列生成器,将样本中各个观测值的对数似然贡献描述 为一个未知参数的函数。可以给出似然函数中一个或多个 参数的解析微分,也可以让EViews自动计算数值微分。 EViews将寻找使得指定的似然函数最大化的参数值,并 给出这些参数估计的估计标准差。 在本章,我们将详细论述对数极大似然估计对象, 说明其一般特征。并给出了一些可以使用该方法的具体的 例子
58.1对数极大似然估计的基本原理 58.11极大似然估计的基本原理 设总体的概率密度函数为P,其类型是已知的,但含有 未知参数(向量)y。我们的目的就是依据从该总体抽得的 随机样本y,y2,…,y7r,寻求对y的估计。 观测值y,y2,…,yr的联合密度函数被给定为 L(v)=P() (81.1) 其中:y=(y1,y2…,yr)。将这一联合密度函数视为参 数y的函数,称为样本的似然函数( likelihood function)
3 §8.1 对数极大似然估计的基本原理 §8.1.1 极大似然估计的基本原理 设总体的概率密度函数为P,其类型是已知的,但含有 未知参数(向量)。我们的目的就是依据从该总体抽得的 随机样本 y1 , y2 , … , yT ,寻求对 的估计。 观测值 y1 , y2 , … , yT 的联合密度函数被给定为 (8.1.1) 其中:y = ( y1 , y2 , … , yT ) 。将这一联合密度函数视为参 数 的函数,称为样本的似然函数(likelihood function)。 = = T t t L P y 1 ( y;ψ) ( )
极大似然原理就是寻求参数的估计值使得所给样本值 的概率密度(即似然函数)的值在这个参数值之下,达到最 大。在当前的情形下,就是寻求y的估计值,使得似然函数 L(y;v)相对于给定的观测值y,y2,…,yr而言达到最大值, y就被称为极大似然估计量。 在L(v;v)关于v(i=1,2,…,n,h是未知参数的个数) 的偏导数存在时,要使(v;y取最大值,v必须满足 L(y;y)=0 1,2,n(8.1.2) 由上式可解得n×1向量v的极大似然估计值ψ,而式(8.1.2)也 被称为似然函数
4 极大似然原理就是寻求参数的估计值 ,使得所给样本值 的概率密度(即似然函数)的值在这个参数值之下,达到最 大。在当前的情形下,就是寻求 的估计值,使得似然函数 L(y ;) 相对于给定的观测值y1 , y2 , … , yT 而言达到最大值, 就被称为极大似然估计量。 在 L(y ;) 关于i(i =1, 2, …, n,n是未知参数的个数) 的偏导数存在时,要使 L(y ;) 取最大值, 必须满足 , i =1, 2, …, n (8.1.2) 由上式可解得n1 向量 的极大似然估计值 ,而式(8.1.2)也 被称为似然函数。 ψ ˆ ψ ˆ ψ ˆ ( ; ) = 0 L y ψ i
因为L(y;v)与lmL(;ψ)在同一点处取极值,所 以也可以由 hnL(y;v)=0,i=1,2,…,n(813) 求得,因为对数可将乘积变成求和,所以,式(81,3)往往 比直接使用式8,12来得方便。式(81.3)也被称为对数似 然函数
5 因为 L(y ; ) 与 ln[L(y ; ))] 在同一点处取极值,所 以也可以由 , i =1, 2, …, n (8.1.3) 求得,因为对数可将乘积变成求和,所以,式(8.1.3)往往 比直接使用式(8.1.2)来得方便。式(8.1.3)也被称为对数似 然函数。 ln ( ; ) = 0 L y ψ i