再取上式对b的导数。并令导数为零 =-2∑(xn-x承x-)-b(x1-X)-b(x2-x2)-…b(xm-x小=0 i=1,2……m 如果 S=Sn=∑(Xn-X,XXn-x),j=1,2,…m S=∑(Xn-Xx-)i=12,…m 则由⑨式得 Snb+S2b2+……Snbn=Sr (8-23) 这是一个含m个待定值b和m个方程的联立方程组,也称回归方程(8-2)的正规方程组。如果它的系数(S)行列式不为零,则可用消元法解 出b。再由⑧式求出b,把求出的b和b代回(822)式,即得要求的多元线性回归方程 在实际计算中,由于变量Y和X可能有不同的量纲和数值上的很大差异,而正规方程组(823)的系数矩阵(Sg),又都是x的二次项,所以S 之间在数值上的差异可能非常之大,求解时难免会给结果带来较大的舍入误差。为了避免这一点,常将正规方程组(823)标准化。取 b=b S=∑(Xn-x,)2Sn=∑(-y)
11 再取上式对 i b 的导数。并令导数为零： 2 ( )( ) ( ) ( ) ( ) 0 1 = − − − − 1 1 − 1 − 2 2 − 2 − − = = n t i t i t t t m mt m i X X Y Y b X X b X X b X X b i = 1,2, m ⑨ 如果 S S X X X j t X j i j m n t i j j i ( i t i )( ), , 1,2, 1 = = − − = = ( )( ) 1 S X X Yt Y n t iY = it − i − = i = 1,2, m; 则由⑨式得： Si1b1 + Si2b2 +Simbm = SiY i = 1,2, m （8-23） 这是一个含 m 个待定值 i b 和 m 个方程的联立方程组，也称回归方程（8-22）的正规方程组。如果它的系数（ ij S ）行列式不为零，则可用消元法解 出 i b 。再由⑧式求出 0 b ，把求出的 0 b 和 i b 代回（8-22）式，即得要求的多元线性回归方程。 在实际计算中，由于变量 Y 和 Xi 可能有不同的量纲和数值上的很大差异，而正规方程组（8-23）的系数矩阵（ ij S ），又都是 X 的二次项，所以 ij S 之间在数值上的差异可能非常之大，求解时难免会给结果带来较大的舍入误差。为了避免这一点，常将正规方程组（8-23）标准化。取 YY ii i i S S b = b 2 1 ( ) = = − n t Sii Xit Xi YY S 2 1 (Y Y ) n t = t − = 或
把⑩式代入(8-23)中,得 S.b (Xir-Xx-X ) ,小S.(xn-)2(x-x,以,=12…m (X -XY-Y (Xn-x)2∑(-)2 结果得正规方程组的标准形 k+r2b2
12 ii YY i i S S b = b ， i = 1,2, m, ⑩ 把⑩式代入（8-23）中，得： iY mm YY im m YY i YY i S S S S b S S S b S S S b + + = 22 2 2 11 1 在等式两边同除以 SYY Sii ，得 i i YY i Y m mm i i i m i i i i i i S S S b S S S b S S S b S S S + 2 + = 2 2 2 1 1 1 1 已知： r i j m X X X X X X X X S S S i j n t n t i t i j t j n t i t i j t j j j i i i j , , 1,2, ( ) ( ) ( )( ) 1 1 2 2 1 = = − − − − = = = = r i m X X Y Y X X Y Y S S S i Y n t n t i t i t n t i t i i i i YY i Y , 1,2, ( ) ( ) ( )( ) 1 1 2 2 1 = = − − − − = = = = 结果得正规方程组的标准形式： i i im m iY r b + r b +r b = r 1 1 2 2 i = 1,2, m （8-24）
式中:b为标准回归系数:r为变量X和X,之间的单相关系数:Fr为变量X1和Y之间的单相关系数。它们都是无因次量。且恒有 =1=ls1|1,方程组(8-24)也可写成矩阵形式 Bb:5 RB=r 相关系数矩阵是满秩的,R的逆矩阵Rx存在。所以,可以用伴随矩阵求逆矩阵的方法解出 R (8-25) 式中:R2为R2伴随矩阵,Rx为矩阵R2的行列式 把所有的B式代入⑩式求出b,由⑧式求出b和b再代回(82)式即得要求的回归方程 所求的回归方程是否反映Y和ⅹ之间的变化规律,还要进一步做方差分析才能清楚。为此,仍取Y,对其平均值Y的偏差平方和 S2=1∑-=bx-∑-订+-F
13 式中： 1 b 为标准回归系数； ij r 为变量 Xi 和 X j 之间的单相关系数； iY r 为变量 Xi 和 Y 之间的单相关系数。它们都是无因次量。且恒有 rii = 1,rij = rji , rij 1, riY 1 ，方程组（8-24）也可写成矩阵形式： m m mm m m r r r r r r r r r 1 2 21 22 2 11 12 1 = mY Y Y m r r r b b b 2 1 2 1 RX B = RY 相关系数矩阵是满秩的， RX 的逆矩阵 −1 RX 存在。所以，可以用伴随矩阵求逆矩阵的方法解出 Y X X R R R B = (8-25) 式中： RX 为 RX 伴随矩阵， RX 为矩阵 RX 的行列式。 把所有的 B 式代入⑩式求出 i b ，由⑧式求出 0 b 和 i b 再代回（8-22）式即得要求的回归方程。 所求的回归方程是否反映 Y 和 Xi 之间的变化规律，还要进一步做方差分析才能清楚。为此，仍取 Yt 对其平均值 Y 的偏差平方和： = = = = = = − = − − = − + − n t t n t t t n t t t n t S SYY Yt Y Y Y Y Y Y Y Y Y 1 2 1 2 2 1 2 1 ) ˆ ) ( ˆ ) ( ˆ )( ˆ 总 ( ) (
同一元相关的分析方法一样,上式最后一个等号是因为交叉积∑(,-Y)-1)=0由(823)式和⑧式知 (1-1x)-n)=∑y-(a2+∑bx 小4 (x-)-∑b(X-x∑b(xn-x b(Xn-Xy-y)-∑∑∑bb(Xn-xXX-x) b S b, (s 于是得分解式和自由度为 =∑(1-),自由度f=n-1 Sa-∑(,-),)2,自由度后=m(自变量个数) -F)2,自由度 n-7 Y和X整体之间的相关程度,不能再用单相关系数r来衡量,必须用复相关系数R表示。R的定义和单相关系数一样,仍取S回和Sg中所占的比
14 同一元相关的分析方法一样，上式最后一个等号是因为交叉积 ) 0 ˆ )( ˆ ( 1 − − = − n t Yt Y Yt Y 。由（8-23）式和⑧式知： + − − − = − + − = = = m i i i t n t m i t i i t n t Yt Y Yt Y Y b b X b b X Y 1 0 1 1 0 1 ) ( ) ) ˆ )( ˆ ( = = = = − − − − n t n i i it i m i Yt Y bi Xit Xi b X X 1 1 1 ( ) ( ) ( ) = ( )( ) ( )( ) 1 1 1 1 1 jt j n t m i m j i j it i n t m i bi Xit − Xi Yt −Y −b b X − X X − X = = = = = = = = = − m i m i m j biSiY bibjSij 1 1 1 = ( 0 1 1 − = = = m i m j bi SiY bjSij 于是得分解式和自由度为 S总 = S回 + S余 （11） S总 == − n t Yt Y 1 2 ( ) ，自由度 f总 = n −1 ； S回 == − n t Yt Yt 1 2 ) ˆ ( ，自由度 f回 = m （自变量个数） S余 == − n t Yt Y 1 2 ) ˆ ( ，自由度 f余 = n − m −1 ； Y 和 Xi 整体之间的相关程度，不能再用单相关系数 r 来衡量，必须用复相关系数 R 表示。R 的定义和单相关系数一样，仍取 S回 和 S总 中所占的比
ss 利用(8-22)式和⑧式,S回可表示为 y X -X(X-X ∑45)=∑A 把结果代入R式中,得复相关系数的计算式 R=∑bS 用上式计算R很方便,可以利用解方程组的已有结果直接计算。R的变化范围为0-1。R=0,说明Y和X整体之间没有线性关系:R=1,表示Y和 X1整体之间为函数关系。当R在0~1之间变化时,R越大,表示Y和X整体之间的相关越密切 同一元相关一样,复相关系数的显著性,可用下列统计量来检验 S回/回S回
15 值： R = S回 S总 利用（8-22）式和⑧式， S回 可表示为： S回 == − n t Yt Yt 1 2 ) ˆ ( = 2 1 1 1 0 0 = = = + − − n t m i m i b bi Xit b bi Xi = = − − − = = = = = m j n t j i t i j t j m i i n t m i bi Xi y Xi b b X X X X 1 1 1 2 1 1 ( ) ( )( ) = = = = = m i m j m i bi bjSij biSiY 1 1 1 ( ) （12） 把结果代入 R 式中，得复相关系数的计算式： = = = = m i YY i iY m i i iY R b S S b r 1 1 （8-26） 用上式计算 R 很方便，可以利用解方程组的已有结果直接计算。R 的变化范围为 0-1。R=0，说明 Y 和 Xi 整体之间没有线性关系；R=1，表示 Y 和 Xi 整体之间为函数关系。当 R 在 0～1 之间变化时，R 越大，表示 Y 和 Xi 整体之间的相关越密切。 同一元相关一样，复相关系数的显著性，可用下列统计量来检验： （ ） 余 回 余 余 回 回 1 / / = = n − m − mS S S f S f F