4.1平稳序列与宽平稳序列 在实用领域中称随机变量序列5n(-∞<n<∞)为时间序列,常假定其方差有限. 定义11.16如果对于任意m,k,m维随机变量(5k41,…,5km}都与(51,…,5m}同 分布,则称2n(-∞<n<∞)为平稳序列 如果有对于任意n,k有 En=常数m,E(5n5n)=某个不依赖n的函数R(k), 则称5n(-∞<n<∞)为宽平稳序列,而R(k)称为它的相关函数 宽平稳序列是在应用中最常用的时间序列.它代表数学期望函数m(t)=E5,与相关函数 B(t,1+k)=E(ξ}5μk)=R(k)这两个最重要的平均特征都不依赖时间t的时间序列通常假定 宽平稳序列的期望函数为零,否则可以预先减去它的期望在理论上宽平稳列常在C2的框架中 讨论 定义11.17在工程无线电,控制等诸多领域中出现的宽平稳序列常假定其期望为0, 而其相关函数R(k)常可表成某个非负函数f(A)的 Fourier系数 R(k)=f()edn 这个非负函数∫(λ)称为此宽平稳序列的谱密度 相关函数概括了宽平稳序列的最重要的统计特征因而谱密度f()也同样概括了宽平 稳序列的最重要统计特征在实际问题中,可以通过序列,的一段观测值来估计,即用 f(4)=-1 (11.5) 来估计谱密度f(λ),称为谱图估计.这个估计简单易用,但是较为粗略参照非参数统计中的 核估计的思想,可以得到一些改进的估计而在宽平稳序列的期望不等于0时,则用 n+1∑:-FE=n (11.4) 作为谱图估计 在应用中,可以认为相关函数与谱密度有相同的作用.但是在具体处理上,又各有其长 处.用相关函数研究宽平稳序列称为时域方法,而用谱密度研究宽平稳序列则称为频率域方法 具有谱密度的宽平稳序列可以用它的样本平均来估计其均值m n+1-m|0 此公式的收敛是c2?的收敛,就是均方收敛其证明需要用宽平稳列的谱积分理论,这是 个已经发展得过于成熟的理论,本书由于篇幅的限制而不再选入这部分材料.又因为均方收敛 蕴含了概率收敛,所以有:以接近于1的概率有5++5nm,同时还可以用样本来估计 n+1 相关函数 505k+…+n5n+ R(k)‖ 同样它蕴含了以接近于1的概率有55+…+5BA ≈R(k).记
289 4. 1 平稳序列与宽平稳序列. 在实用领域中称随机变量序列 (-¥ < n < ¥) n x 为时间序列， 常假定其方差有限. 定义１１.１６ 如果对于任意m, k ，m 维随机变量 ( , , } k+1 k+m x L x 都与 ( , , } 1 m x L x 同 分布, 则称 (-¥ < n < ¥) n x 为平稳序列. 如果有对于任意n, k 有 E m, E( ) n R(k) x n = 常数 x n x n +k = 某个不依赖 的函数 , 则称 (-¥ < n < ¥) n x 为宽平稳序列, 而R(k ) 称为它的相关函数. 宽平稳序列是在应用中最常用的时间序列．它代表数学期望函数 E t m t x D ( )= 与相关函数 B(t,t k ) E( ) R(k) + = t t+k = D x x 这两个最重要的平均特征都不依赖时间 t的时间序列. 通常假定 宽平稳序列的期望函数为零, 否则可以预先减去它的期望. 在理论上宽平稳列常在 L 2 的框架中 讨论. 定义１１.１７ 在工程, 无线电, 控制等诸多领域中出现的宽平稳序列常假定其期望为 0, 而其相关函数R(k ) 常可表成某个非负函数 f (l) 的 Fourier 系数: ò = p l l l 2 0 R(k) f ( )e d ik , (11. 4) 这个非负函数 f (l) 称为此宽平稳序列的谱密度. 相关函数概括了宽平稳序列的最重要的统计特征, 因而谱密度 f (l) 也同样概括了宽平 稳序列的最重要统计特征. 在实际问题中, 可以通过序列 n x 的一段观测值来估计, 即用 å= - + = n k ik k e n f 0 2 ^ | | 1 1 ( ) l l x (11. 5) 来估计谱密度 f (l) , 称为谱图估计. 这个估计简单易用, 但是较为粗略. 参照非参数统计中的 核估计的思想, 可以得到一些改进的估计. 而在宽平稳序列的期望不等于 0 时, 则用 ) 1 1 | ( ) | ,( 1 1 ( ) 0 0 2 ^ ^ å å = = - + - = + = n i i n k ik k n e n f l x x x x l (11. 4)’ 作为谱图估计. 在应用中，可以认为相关函数与谱密度有相同的作用．但是在具体处理上，又各有其长 处．用相关函数研究宽平稳序列称为时域方法，而用谱密度研究宽平稳序列则称为频率域方法. 具有谱密度的宽平稳序列可以用它的样本平均来估计其均值 m: || 0 1 || 0 - ® + + + m n n x L x , 此公式的收敛是 L 2 ? 的收敛,就是均方收敛. 其证明需要用宽平稳列的谱积分理论, 这是一 个已经发展得过于成熟的理论, 本书由于篇幅的限制而不再选入这部分材料. 又因为均方收敛 蕴含了概率收敛, 所以有: 以接近于 1的概率有 m n n » + + + 1 0 x L x . 同时还可以用样本来估计 相关函数： ( ) || 0 1 || 0 - ¾¾¾® + k + + n n+k n®¥ R k n x x L x x , 同样它蕴含了 以接近于1 的概率有 ( ) 1 0 R k n k n n k » + + + + x x L x x . 记
r(k 505 n+1 它们分别是均值m与相关函数B(k)的最简便的相合估计 显见, Gauss宽平稳序列一定是平稳的.对于具有谱密度的宽平稳 Gauss列,可以有更 强的结论: P( )=1,P R(k)=1 相当一般的具有谱密度的宽平稳序列(例如只要满足hf(4)d>-∞)都可以用 下面5.3段中的ARMA模型来近似这就是在实际领域中ARMA模型被广泛采用的原因 4.2渐近平稳序列与渐近宽平稳序列 定义11.18随机变量列5n(-∞<n<∞)称为渐近平稳序列,如果对于任意m,k,当 1→>时(54…,5+m)与(51…,5件km}的分布都依分布收敛到相同的分布而渐近平稳 序列正是指在时间充分发展后近似平稳的时间序列随机变量列n(-∞<n<∞)称为渐近宽平 稳序列如果对于任意n,k,存在常数m及函数R(k),使 lm o Es n=m, lim E(SI+)=R(k) m称为渐近均值,R(k)称为渐近相关函数而渐近宽平稳序列正是指在时间充分发展后近似宽 平稳的时间序列 例11.19具有不变分布的不可约 Markov链,在初始值服从不变分布时,是平稳序列 而当初始值任意时,是渐近平稳序列 在实际数据处理应用中,用宽平稳序列来拟合建模的常常只是渐近宽平稳序列.然而这在 应用中已经足够了,因为我们都可以认为当前的时刻已经是该时间序列已发展到达到了充分长 的阶段.也就是说,在实用中我们并不严格区分宽平稳序列与渐近宽平稳序列 4.3平稳增量序列 如果随机序列显著地出现一个随时间发展的趋势,则在模型拟合时,可以研究其增量 ηn=5n-ξn,对于此增量序列,考察其平稳性,宽平稳性渐近平稳性与渐近宽平稳性,并进一 步选择合适的模型,以便得到较为合适的模型参数拟合.宽平稳增量序列经济学家们常称为单位 根过程 [注]E(n5nk)=R(k),EEn=0的平稳列5n(m=1…,N)的样本可作如下的模拟 设R(k)满足:对于任意,任意n1,…,n1,(R(n1-n,)s都是一个非负定的矩阵取独 立同分布列{n}使En=0,Ew2=R(O),待定线性组合=CWk+…+Cnn1,其系数 (c1,…,Cn)可由方程组 R(k-1)=E∑cwk2c",)=ROcc+c2c1+…+cn+n) 解得.这是一个二次方程组,可以用模拟退火方法 5.ARMA模型(Auo- Regression moving average模型) 5.1 ARMA(, q) 定义11.20对于宽平稳序列ξn,若存在不相关的时间序列En(-∞<n<∞)(在实用 中还常常假定它们是独立同分布的这时n还是平稳序列,使EEn=0, Vars=a2,且
290 1 0 ^ + + + = n m n x L x , 1 ( ) 0 ^ + + + = + n R k k n n k x x L x x . (11. 6) 它们分别是均值 m与相关函数B(k ) 的最简便的相合估计. 显见， Gauss 宽平稳序列一定是平稳的. 对于具有谱密度的宽平稳 Gauss 列, 可以有更 强的结论： ) 1 1 ( 0 ® = + + + m n P n x L x , ( )) 1 1 ( 0 ® = + + + + R k n P k n n k x x L x x . 相当一般的具有谱密度的宽平稳序 列 (例如, 只要满足 ò- > -¥ p p ln f (l)dl ) 都可以用 下面 5. 3 段中的 ARMA模型来近似, 这就是在实际领域中 ARMA 模型被广泛采用的原因. 4. 2 渐近平稳序列与渐近宽平稳序列 定义１１.１８ 随机变量列 (-¥ < n < ¥) n x 称为渐近平稳序列, 如果对于任意 m, k ,当 t ® ¥ 时( , , ) t +1 t+m x L x 与 ( , , } t +k +1 t+k+m x L x 的分布都依分布收敛到相同的分布. 而渐近平稳 序列正是指在时间充分发展后近似平稳的时间序列. 随机变量列 (-¥ < n < ¥) n x 称为渐近宽平 稳序列, 如果对于任意n, k ，存在常数 m 及函数 R(k ) ，使 lim E m,lim E( ) R(k ) t®¥ xt+n = t®¥ xt +n xt+n+k = ， m称为渐近均值, R(k ) 称为渐近相关函数. 而渐近宽平稳序列正是指在时间充分发展后近似宽 平稳的时间序列. 例１１.１９ 具有不变分布的不可约 Markov 链, 在初始值服从不变分布时, 是平稳序列; 而当初始值任意时, 是渐近平稳序列. 在实际数据处理应用中, 用宽平稳序列来拟合建模的常常只是渐近宽平稳序列．然而这在 应用中已经足够了, 因为 我们都可以认为当前的时刻已经是该时间序列已发展到达到了充分长 的阶段. 也就是说, 在实用中我们并不严格区分宽平稳序列与渐近宽平稳序列. 4. 3 平稳增量序列 如果随机序列显著地出现一个随时间发展的趋势, 则在模型拟合时, 可以研究其增量: -1 D n = n - n h x x , 对于此增量序列, 考察其平稳性, 宽平稳性, 渐近平稳性与渐近宽平稳性, 并进一 步选择合适的模型, 以便得到较为合适的模型参数拟合. 宽平稳增量序列经济学家们常称为单位 根过程 ［注］ ( ) = ( ), = 0 n n+k E n E x x R k x 的平稳列 (n 1, , N) x n = L 的样本可作如下的模拟. 设 R(k ) 满足： 对于任意l ，任意 l i j ij l n n R n n - £ , , ,( ( )) 1 L 都是一个非负定的矩阵. 取独 立同分布列{ } wn 使 0, (0) 2 Ewn = Ewn = R , 待定线性组合 1 1 . k = k + + nwk+nx c w L c , 其系数 ( , , ) 1 n c L c 可由方程组 ( 1) [( )( )] (0)[ ) 1 2 1 1 1 1 1 j j k k n k n N j i k i N i R k E c w c w R c c c c c c + - + = + - = - = å å = + +L+ 解得．这是一个二次方程组, 可以用模拟退火方法． 5. ARMA模型 (Auto-Regression Moving Average 模型) 5．１ ARMA (p, q) 定义１１.２０ 对于宽平稳序列 n x , 若存在不相关的时间序列 (-¥ < n < ¥) n e (在实用 中还常常假定它们是独立同分布的, 这时 n x 还是平稳序列), 使 2 Ee n = 0,Vare n = s , 且
5n-a15 np=bEn+bEn1+…+bE (11.7) 其中多项式A()=1-a12-…-an1P1-an”在|1无零点,(这个条件保证了5n的稳 定性质,即渐近宽平稳性也就是经过连续地递推后不会趋于无穷,则称5n(-∞<n<∞)为 p,q阶ARMA模型记为ARMA(p,q) 在实用中,由于宽平稳性,上面的系数(a1;…,an)(b,b1,…,b)可以通过序列5n的一段 观测值来估计 不难证明,宽平稳序列为ARMA(pq)的充要条件是它具有如下形式的谱密度 f()=C A(e (11.8) 其中多项式A(=)=1-a1 ap2-an在|=K1无零点,而 B()=b+b二+…+b1=+b,=9 满足(b1,…b4)=0的ARMA模型,简记为AR(p),称为p阶自回归模型,或p阶宽马氏 模型;而满足(a13…,an)=0的ARMA模型,简记为MA(q),称为q阶滑动平均模型 在应用学科中常遇到渐近宽平稳序列,实际上可以把它当作宽平稳序列,并用ARMA模型 作数据拟合.就是把数据列看成某个ARMA序列的一段样本对于看起来具有平稳性质的数据 列,一般地想象,似乎被拟合的ARMA模型的阶p,q越大越自由.事实却不是这样.过大而不 适当的pq不仅会增加了大量冗余计算工作量,有时还会出现过分拟合( over-fitting),这同样 会带来误差.所以,寻找尽量小的pq,并使之能得到可以接受的近似,称为模型的定阶问题 实用中的ARp)常常假定其自回归残差En是独立的随机变量序列,所以在51,…,5p已 知的条件下,n的条件期望为 E(5n|(m1,…5n-p)=E(a15n1+…+an5m-pl+bn)|(5n1,…,5np) 可见,知道了自回归模型系数,就可以用时刻n以前的资料,去预测时刻n时的估值,或以多大 的概率在什么范围内变化(区间估计)·如果还假定En服从正态分布,那么上式说明,对于模 型AR(p)在5n13…,5p已知的条件下,,的条件分布为正态分布 N(a15n+…+an5np,ba2) (可以把(bσ)2合为一个参数来估计,这等价于令b=1,所以以后对于AR模型,我们不妨假 定b=1),这时还可以得到误差的区间估计 5.2AR模型的定阶与偏相关系数以及模型参数的估计 定义11.21设5为宽平稳序列(并不限于ARMA模型).若实数a(j≤k)满足 E|5 (k)E F=mrfa4E|5n-∑c5m (11.9) 则a4称为第k个偏相关系数 用实测数据来拟合AR模型时,首先要判断用AR模型近似是否合适,其次要估计p(定阶) 最后还要估计AR(p)模型的p+1个待估参数.以下的准则可以由简单的计算直接验证 准则11.225n为AR(p),当且仅当,第p个偏相关系数非零,而以后的偏相关系数 都是零
291 n n p n p n n q n q a a b b b - - - - - = + - + + - x x L x e e L e 1 1 0 1 1 , (11. 7) 其中多项式 p p p p A z = - a z - - a z - a z - - 1 1 1 ( ) 1 L 在| z |£ 1 无零点 ，(这个条件保证了 n x 的稳 定性质, 即渐近宽平稳性, 也就是经过连续地递推后, 不会趋于无穷), 则称 (-¥ < n < ¥) n x 为 (p, q) 阶 ARMA 模型. 记为 ARMA(p,q ). 在实用中, 由于宽平稳性, 上面的系数( , , ),( , , , ) 1 p 0 1 q a L a b b L b 可以通过序列 n x 的一段 观测值来估计. 不难证明，宽平稳序列为 ARMA (p, q)的充要条件是它具有如下形式的谱密度 2 2 | ( ) | | ( ) | ( ) l l l i i A e B e f = C , (11. 8) 其中多项式 A(z) = p p p p - a z - - a z -a z - - 1 1 1 L 1 在| z |£ 1 无零点, 而 q q q q B z = b + b z + + b z + b z - - 1 0 1 1 ( ) L . 满足( , , ) 0 b1 L bq = 的 ARMA模型，简记为 AR(p), 称为 p 阶自回归模型, 或 p 阶宽马氏 模型; 而满足( , , ) 0 a1 L a p = 的 ARMA模型 ，简记为 MA(q), 称为 q 阶滑动平均模型. 在应用学科中常遇到渐近宽平稳序列, 实际上可以把它当作宽平稳序列, 并用 ARMA模型 作数据拟合．就是把数据列看成某个 ARMA序列的一段样本. 对于看起来具有平稳性质的数据 列, 一般地想象, 似乎被拟合的 ARMA模型的阶 p, q 越大越自由. 事实却不是这样．过大而不 适当的 p,q 不仅会增加了大量冗余计算工作量, 有时还会出现过分拟合(over-fitting), 这同样 会带来误差. 所以，寻找尽量小的 p, q , 并使之能得到可以接受的近似, 称为模型的定阶问题. 实用中的 AR(p), 常常假定其自回归残差 n e 是独立的随机变量序列, 所以在 n- n- p x , ,x 1 L 已 知的条件下, n x 的条件期望为 n p n p n n n p n p n p n n n p a a E E a a b - - - - - - - - = + + = + + + x x x x x x x e x x L L L L 1 1 1 1 1 0 1 ( | ( , , )) (([ ] ) | ( , , )) . (11. 8) 可见, 知道了自回归模型系数, 就可以用时刻n 以前的资料, 去预测时刻 n 时的估值，或以多大 的概率在什么范围内变化（区间估计）．如果还假定 n e 服从正态分布, 那么上式说明，对于模 型 AR(p),在 n- n- p x , ,x 1 L 已知的条件下, n x 的条件分布为正态分布: ( , ) 2 2 N a1 x n-1 +L+ a p x n-p b0s , (可以把 2 0 (b s ) 合为一个参数来估计, 这等价于令 1 b0 = , 所以以后对于 AR 模型, 我们不妨假 定 b0 =1), 这时还可以得到误差的区间估计． 5．2 AR 模型的定阶与偏相关系数以及模型参数的估计 定义１１．２１ 设 n x 为宽平稳序列 (并不限于 ARMA模型)． 若实数 ( ) ( ) j k k a j £ 满足 å å= - = - - = - k j n j n j k j n j c c k n j E E c k 1 2 1 , ( ) 2 | | inf | | 1, x a x L x x , (11. 9) 则 (k) ak 称为第k 个偏相关系数. 用实测数据来拟合 AR 模型时, 首先要判断用 AR 模型近似是否合适; 其次要估计 p (定阶); 最后还要估计 AR(p)模型的 p+1 个待估参数. 以下的准则可以由简单的计算直接验证： 准则１１．２２ n x 为 AR(p), 当且仅当, 第 p 个偏相关系数非零, 而以后的偏相关系数 都是零．
偏相关系数的求法记F(1…c)=E|n-∑cn 由定义它在 )…4(处取最小,所以,粗略地,(a,,…4)是方程组F 0(j=1,…,k) 的解(它们还有可能是局部极值点而非整体极小).这个方程组也就是 R(0)R(1) R(1) R(1)R(0) R(k-2)a2(|(2) R(k-1)R(k-2) R(0) R(k) 称为Yu|e-"aker方程由此可以解出第k个偏相关系数ax“'的理论值在实际情形,我们只 知道一段样本51…5N,由此可以先得到R()(j≤m)的估计R()(j≤m).再用它们来代替 上面计算第k个偏相关系数ak的Yue- .Walker方程中的R()(j≤k),得到的方程称为经验 Yule- Walker方程,它的解便是第k个偏相关系数∝k的估计∝k,称为经验偏相关系数 检查多项式1-a12-…-am12P-an2在二1有无零点在实践中是非常困难的通 常的方法在实用中既复杂且很难实际操作.因此,人们在拟合AR()模型时常常加上约束条件 ∑|a1|<1,以保证多项式1-a1 anP在|K1无零点这样就使估计参 数问题实际成为求解一个在约束条件下的最小值问题 偏相关系数的递推算法 由(11.10)利用归纳法,可以得到偏相关系数的递推算法:为此我们归纳地假定在k时已经 有了表达式.而对k+1情形,可以由k+1阶Yule- Walker方程定义如下递推方程 R(0)R(1) R(k) R(1) R(k-1)R(k-2) R(1) (k+1) R(k) R(k)R(k-1)…R(O)a+)(R(k+1) 递推地求解这个方程,就可得到{,(≤k+1)与{a/,(≤k间的递推关系 下面推导此方程的递推解法,注意此方程的系数是一个 Toeplitz矩阵,以 Toeplitz矩阵为系数的线性方程组 的解法是非常经典的.首先,我们把它改写为矩阵方程.记系数矩阵为Rk,它是对称的而且对于ARMA模型 易证它是正定的(作为习题)再记T为如下的k阶倒向算子: R(1) RO 于是对应的矩阵方程可写为 Tk rTR(Oa)」[R(k+1 也就是 292
292 偏相关系数的 求 法 记 2 1 1 ( , , ) | å | = = - - k j k k n j n j F c L c E x c x . 由定义它在 ( , , ) ( ) ( ) 1 k k k a L a 处取最小, 所以，粗略地， ( , , ) ( ) ( ) 1 k k k a L a 是方程组: 0( j 1, , k) c F j k = = L ¶ ¶ 的解（它们还有可能是局部极值点而非整体极小）． 这个方程组也就是: ÷ ÷ ÷ ÷ ÷ ø ö ç ç ç ç ç è æ = ÷ ÷ ÷ ÷ ÷ ø ö ç ç ç ç ç è æ ÷ ÷ ÷ ÷ ÷ ø ö ç ç ç ç ç è æ - - - - ( ) (2) (1) ( 1) ( 2) (0) (1) (0) ( 2) (0) (1) ( 1) ( ) ( ) 2 ( ) 1 R k R R R k R k R R R R k R R R k k k k k M M L M M M M L L a a a , (11. 10) 称为 Yule-Walker 方程. 由此可以解出第k 个偏相关系数 (k ) ak 的理论值. 在实际情形, 我们只 知道一段样本 N x , ,x 1 L , 由此可以先得到 R( j)( j £ m)的估计 ( )( ) ^ R j j £ m . 再用它们来代替 上面计算第 k 个偏相关系数 (k ) ak 的 Yule-Walker 方程中的 R( j)( j £ k) , 得到的方程称为经验 Yule-Walker 方程, 它的解便是第k 个偏相关系数 (k ) ak 的估计 ^ (k) ak , 称为经验偏相关系数. 检查多项式 p p p p - a z - - a z - a z - - 1 1 1 1 L 在| z |£ 1 有无零点, 在实践中是非常困难的. 通 常的方法在实用中既复杂且很难实际操作． 因此，人们在拟合 AR(p)模型时常常加上约束条件 | | 1 1 å < = p i i a ，以保证多项式 p p p p - a z - - a z - a z - - 1 1 1 1 L 在| z |£ 1 无零点. 这样就使估计参 数问题实际成为求解一个在约束条件下的最小值问题． 偏相关系数的递推算法 由(11. 10) 利用归纳法, 可以得到偏相关系数的递推算法：为此我们归纳地假定在k 时已经 有了表达式. 而对k +1情形，可以由k +1阶 Yule-Walker 方程定义如下递推方程 ÷ ÷ ÷ ÷ ÷ ø ö ç ç ç ç ç è æ + = ÷ ÷ ÷ ÷ ÷ ø ö ç ç ç ç ç è æ ÷ ÷ ÷ ÷ ÷ ø ö ç ç ç ç ç è æ - - - + + + + ( 1) ( ) (1) ( ) ( 1) (0) ( 1) ( 2) (1) (0) (1) ( ) ( 1) 1 ( 1) ( 1) 1 R k R k R R k R k R R k R k R R R R k k k k k k M M L L M M L M L a a a ． 递推地求解这个方程，就可得到{ ,( 1)} ( 1) £ + + j k k a j 与{ ,( } ( ) j k k a j £ 间的递推关系． 下面推导此方程的递推解法．注意此方程的系数是一个 Toepliz 矩阵, 以 Toeolitz 矩阵为系数的线性方程组 的解法是非常经典的．首先, 我们把它改写为矩阵方程．记系数矩阵为 Rk , 它是对称的而且对于 ARMA 模型 易证它是正定的 (作为习题). 再记 Tk 为如下的k阶倒向算子： ÷ ÷ ÷ ø ö ç ç ç è æ = 1 1 Tk N , rk = ÷ ÷ ÷ ø ö ç ç ç è æ ( ) (1) R k R M , xk = ÷ ÷ ÷ ø ö ç ç ç è æ - ( ) 1 ( ) 1 k k k a a M . 于是对应的矩阵方程可写为 ú û ù ê ë é + = ú û ù ê ë é ú û ù ê ë é + + + (0) ( 1) ( 1) 1 1 R k x r r T R R T r k k k k T k T k k k k a . 也就是
RK T ra(+=r rtk xk+l +R(O)a R(k+1) 注意R,与T是相互交换的由前一个方程利用R、便有 Xk+/=Rar -ak!T Rark ak)+ITNx (11.11-1) 把它代入后一个方程得到 R(k+1)=rkT(Rkrk-aktTk Rir)+akR(O) ak(r(o)-rrknk)+rkTkRKrk 由此推出 R(k+D)-rkTk R(k+1)-∑R(k+1-jx (k+l) (11.11-2) R(0) R(0)-∑R()x 综合(1.11)与1(11.11-2),就是理论偏相关系数列的以下的递推算法: R(1) R(0) (2)R(2)-R(ax1 R(0)-R()x1 a.(,k+1)-∑R(k+1-1)x R(0)-∑R()x (≤k) 同样如果用R(≤m)代替R(M≤m),则就得到相应的估计a(≤k) 由数据对AR模型粗定阶 对于一段样本51,…,5N,要拟合AR模型,则首先要确定AR模型的阶最简单的想法是:逐 个地计算出偏相关系数,如果对于某个k而言,以后的am(n>k)已经达到实际地足够小,则可 以近似地认为p=k.但是这个方法既粗糙且在实际中显然并非可行,而更为实用的是后面 将要介绍的AIC定阶法与BIC定阶法(参见5.4段中的注1) AR(P)的相关序列的 Yule. Walker方程与自回归系数(a1,…,an)的估计 对于AR(p)模型的自回归系数,自然地采用如下估计 (i≤p) 另一种看法是:注意AR(P)的相关序列{R(k)}满足以下的Yue- Walker方程 293
293 k k Rk x k + Tk rk k = r + + + ( 1) 1 a 1 , (0) ( 1) ( 1) 1 + 1 = + + r T x + R + R k k k k T k T k a . 注意Rk 与Tk 是相互交换的, 由前一个方程, 利用 ú û ù ê ë é = - ( ) 1 k k k k k x R r a , 便有 k k k k k k k k x R r T R r ( 1) 1 1 1 1 + - + - + = -a ú û ù ê ë é -ú û ù ê ë é = - + + k i k k k k k k k k T x x ( ) ( 1) ( ) 1 a a a , (11. 11-1) 把它代入后一个方程得到 ( 1) ( ) (0) ( 1) 1 ( 1) 1 1 1 R k r T R r T R r R k k k k k k k k k T k T k + + + - + - + = -a + a k k T k T k k k T k k k R r R r r T R r ( 1) 1 1 1 ( (0) ) + - - = a + - + . 由此推出 ú û ù ê ë é - ú û ù ê ë é + - = + + ( ) ( ) ( 1) 1 (0) ( 1) k k T k k k k T k k T k k k x R r x R k r T a a a å å = = - + - + - = k j k j k j k j R R j R k R k j 1 ( ) 1 ( ) (0) ( ) ( 1) ( 1 ) a a . (11. 11-2) 综合(11.11-1)与(11. 11-2), 就是理论偏相关系数列的以下的递推算法： ï ï ï ï ï ï ï ï î ï ï ï ï ï ï ï ï í ì = - £ - + - + - = - - = = - - + + + = + = + å å ( ) (0) ( ) ( 1) ( 1 ) (0) (1) (2) (1) (0) (1) ( ) ( 1) ( 1) 1 ( 1) ( ) 1 ( ) 1 ( ) ( 1) 1 (1) 1 (1) (2) 1 2 (1) 1 j k R R j R k R k j R R R R R R k k j k k k j k j k j k j k j k j k k a a a a a a a a a a a L (11. 11) 同样, 如果用 ( )( ) ^ R j j £ m 代替 R( j)( j £ m) , 则就得到相应的估计 ( ) ^ ( ) j k k a j £ . 由数据对 AR 模型粗定阶 对于一段样本 N x , ,x 1 L , 要拟合 AR模型, 则首先要确定 AR 模型的阶. 最简单的想法是: 逐 个地计算出偏相关系数, 如果对于某个k 而言, 以后的 ( ) ( ) n k n a n > 已经达到实际地足够小, 则可 以近似地认为 p = k . 但是这个方法既粗糙且在实际中显然并非可行．而更为实用的是后面 将要介绍的 AIC定阶法与 BIC定阶法（参见 5．4 段中的注 1）． AR(p)的相关序列的 Yule-Walker 方程与自回归系数( , , ) 1 p a L a 的估计 对于 AR(p) 模型的自回归系数, 自然地采用如下估计 ( ) ^ ( ) ^ a i p p i = ai £ 另一种看法是：注意 AR(p)的相关序列{R(k)}满足以下的 Yule-Walker 方程: