前言线性模型是现代统计学中理论丰富、应用广泛的一个重要分支，随高速电子计算机的日益普及在生物、医学、经济、管理、农业、工业、工程技术等领域的应用获得长足发展，因此，在国内外很多高等院校已将线性模型列入数学科学系、数理统计系或统计系、生物统计系、计量经济系等高年级本科生、硕士生或博士生的学位课或选修课，本书是为适应上述需要而编写的教材或教学参考书全书共分九章，第一章通过实例引进各种线性模型，使读者对模型的丰富实际背景有一些了解，这将有助于对后面引进的统计概念和方法的理解，第二章讨论矩阵论方面的补充知识．第三章讨论多元正态及有关分布，从第四章起系统讨论线性模型统计推断的基本理论与方法.本书的第一作者先后在中国科学技术大学、北京工业大学、复旦大学、安徽大学、云南大学等国内院校以及芬兰的坦佩雷大学和美国的科罗拉多州立大学讲授过本书的部分内容借本书出版之际，我们要向我们的老师陈希院士表示衷心的感谢，感谢他对我们多年来的研究给予的热情鼓励和指导本书的出版得到科学出版社和吕虹先生的支持和关心，樊亚莉小姐为本书部分章节打字，另外，本书的写作得到国家自然科学基金和北京市自然科学基金资助，编者愿借此机会向他们表示诚挚的谢意本书由王松桂等编著.第一至四章由王松桂执笔，第五、六章由史建红执笔，第七、八章由尹素菊执笔，第九章由密霞执笔，最后由王松桂统一修改定稿，由于编者水平所限，书中错误或不当之处在所难免，愿请国内同行及广大读者不各赐教编者2003年6月30日
ýjþg 0±k=>stMP~BC, p <, Ädk k&k"0kàkàk ·³=> ). , #ÍAp· ó%ÑýjþgÏ k 0ËkÄdk&·p «Äk âãÄËäãÄ |ÌËô Ì. «Ê X!="#$R%&ÇË ÈÉÊ. §ÊyB'(. )M(*+,êÞýjþg, -Î.-þg /01wMð*1, LÑwìW-2Âê\®¯01. )3 (4±56±¯Â789/. ):(4±A;`h<wB<. )=(, 4±ýjþg>z«0±?¯. «Ê)M.2 ' k@Aà' kBC' kDE' kFG' ·# óÅ< HIJKL' MNOAPQ' RS+«ÊTB#U. V«ÊoWX/, Y,ÃY,ZÆ[ö\ ãn]^¢_`, _` a-Y,A U bcdefgéh. «ÊoW oWijkÄCø¢, lmnopX«Ê TB(qrs, tÍ, «Ê& u»O zv@Aw»O z vxì, %.yV ´Ãa,n]z{`¾. «Êa|}~·%. )M=(a|}~, )k(a , )k(a¥, )'(a, 2a|}~M . aW%., ÊËïX , #<s' Î.. 2003 6 30
符号表4I“定义为”或“记为”A≥0A为对称半正定方阵A>0A为对称正定方阵A≥BA≥0,B≥0且A-B≥0A-矩阵A的广义逆A+矩阵A的Moore-Penrose广义逆Al满足A'A=0且具有最大秩的矩阵rk(A)矩阵A的秩1A|矩阵A的行列式IIA II矩阵A的范数tr(A)方阵A的迹入;(A)A的第i个顺序特征根M(A)矩阵A的列向量张成的子空间PA向M(A）的正交投影变换阵分量皆为1的列向量①1* = (1,-*,1)Vec(A)将A的列向量依次排成的列向量A&BA与B的Kronecher乘积E(X)随机变量或向量X的均值Var(X)随机变量X的方差Cov(X,Y)随机变量或向量X,Y的协方差u~ (μ,E)均值为，协方差阵为的随机向量u~ Np(μ,)均值为μ，协方差阵为Z的P维正态向量LS估计最小二乘估计BLU估计最佳线性无偏估计MVU估计最小方差无偏估计MINQUE最小范数二次无偏估计RSS回归平方和SSe残差平方和MSE均方误差MSEM均方误差矩阵GMSE广义均方误差①在不致引起混淆的情况下，本书向量除分量为1的向量1用黑体表示外，其余均用白体英文小写字母表示，如a,b
✁ ✂ 4 = ✄✆☎✞✝✞✟✞✠☛✡☞✄✆✌✞✟✞✠ A ≥ 0 A ✟✞✍✞✎✞✏✞✑✞☎✞✒✞✓ A > 0 A ✟✞✍✞✎✞✑✞☎✞✒✞✓ A ≥ B A ≥ 0, B ≥ 0 ✔ A − B ≥ 0 A − ✕✓ A ✖✞✗✞✝✞✘ A + ✕✓ A ✖ Moore-Penrose ✗✞✝✞✘ A ⊥ ✙✞✚ A 0A ⊥ = 0 ✔✞✛✞✜✞✢✞✣✞✤✞✖✕✓ rk(A) ✕✓ A ✖✞✤ | A | ✕✓ A ✖✞✥✞✦✞✧ k A k ✕✓ A ✖✞★✞✩ tr(A) ✒✞✓ A ✖✞✪ λi(A) A ✖✞✫ i ✬✞✭✞✮✞✯✞✰✞✱ M(A) ✕✓ A ✖✞✦✳✲✵✴✞✶✞✷✞✖✞✸✞✹✻✺ PA ✲ M(A) ✖✞✑✞✼✞✽✞✾✞✿✞❀✞✓ 1 0 = (1, · · · , 1) ❁✞✴✳❂✵✟ 1 ✖✞✦✳✲✵✴ 1 Vec(A) ❃ A ✖✞✦✳✲✵✴✞❄✞❅✞❆✞✷✞✖✻✦❇✲❈✴ A ⊗ B A ❉ B ✖ Kronecher ❊✞❋ E(X) ●✞❍✞✿✞✴✞✡✳✲✵✴ X ✖✞■✞❏ Var(X) ●✞❍✞✿✞✴ X ✖✞✒✞❑ Cov(X, Y ) ●✞❍✞✿✞✴✞✡✳✲✵✴ X, Y ✖✞▲✞✒✞❑ u ∼ (µ, Σ) ■✞❏✞✟ µ, ▲✞✒✞❑✞✓✞✟ Σ ✖✞●✞❍✳✲✵✴ u ∼ Np(µ, Σ) ■✞❏✞✟ µ, ▲✞✒✞❑✞✓✞✟ Σ ✖ p ▼✞✑✞◆✳✲✵✴ LS ❖✞P ✢✞◗✞❘✞❊✞❖✞P BLU ❖✞P ✢✞❙✞❚✞❯✞❱✞❲✞❖✞P MVU ❖✞P ✢✞◗✞✒✞❑✞❱✞❲✞❖✞P MINQUE ✢✞◗✞★✞✩✞❘✞❅✞❱✞❲✻❖✻P RSS ❳✵❨✞❩✞✒✞❬ SSe ❭❑✞❩✞✒✞❬ MSE ■✞✒✞❪✞❑ MSEM ■✞✒✞❪✞❑✕✓ GMSE ✗✞✝✞■✞✒✞❪✞❑ 1 ❫✞❴✞❵✞❛✞❜✞❝✞❞✞✖✞❡✻❢✞❣✻❤❥✐✻❦✳✲❈✴✻❧✻❁✞✴✻✟ 1 ✖✳✲✵✴ 1 ♠✞♥✞♦✞♣✞q✞r✞❤ts✞✉✻■✻♠❇✈✵♦ ✇✞①◗☛②✞③✞④✞♣✞q✞❤⑥⑤ a, b, · · ·
目录第一章模型概论线性回归模型·$1.17$1.2方差分析模型协方差分析模型11$1.3$1.4混合效应模型.12习题15第二章17矩阵论的预备知识线性空间17$2.120$2.2广义逆矩阵28$2.3幂等方阵33$2.4特征值的极值性质与不等式偏序37$2.541Kronecker乘积与向量化运算$2.6矩阵微商·43$2.7习题51第三章多元正态分布55$3.1均值向量与协方差阵·55随机向量的二次型5683.2正态随机向量60$3.3$3.4正态变量的二次型6873正态变量的二次型与线性型的独立性$3.5习题76第四章参数估计7878$4.1最小二乘估计约束最小二乘估计85$4.2
目 录 第一章 模型概论. 1 §1.1 线性回归模型. 1 §1.2 方差分析模型. 7 §1.3 协方差分析模型. 11 §1.4 混合效应模型. 12 习题一 . 15 第二章 矩阵论的预备知识. 17 §2.1 线性空间. 17 §2.2 广义逆矩阵. 20 §2.3 幂等方阵. 28 §2.4 特征值的极值性质与不等式. 33 §2.5 偏序 . 37 §2.6 Kronecker 乘积与向量化运算. 41 §2.7 矩阵微商. 43 习题二 . 51 第三章 多元正态分布. 55 §3.1 均值向量与协方差阵. 55 §3.2 随机向量的二次型. 56 §3.3 正态随机向量. 60 §3.4 正态变量的二次型. 68 §3.5 正态变量的二次型与线性型的独立性 . 73 习题三 . 76 第四章 参数估计. 78 §4.1 最小二乘估计. 78 §4.2 约束最小二乘估计. 85
目录.vili.广义最小二乘估计88$4.3最小二乘统一理论92$4.499LS估计的稳健性$4.5$4.6两步估计103108$4.7协方差改进法$4.8多元线性模型：111习题四.118第五章假设检验及其它121$5.1线性假设的检验· 121129$5.2置信椭球和同时置信区间·预测$5.3132139$5.4最优设计习题五144第六章线性回归模型147最小二乘估计$6.1:147.. 150$6.2回归方程和系数的检验·...回归自变量的选择· 155$6.3回归诊断: 164$6.4Box-Cox变换175$6.5均方误差及复共线性，178$6.6有偏估计183$6.7习题六194第七章方差分析模型198单向分类模型.198$7.1208$7.2两向分类模型（无交互效应）216两向分类模型（交互效应存在)$7.3套分类模型225$7.4232$7.5误差方差齐性及正态性检验
·viii· 目 录 §4.3 广义最小二乘估计. 88 §4.4 最小二乘统一理论. 92 §4.5 LS 估计的稳健性. 99 §4.6 两步估计. 103 §4.7 协方差改进法. 108 §4.8 多元线性模型. 111 习题四 . 118 第五章 假设检验及其它 . 121 §5.1 线性假设的检验. 121 §5.2 置信椭球和同时置信区间. 129 §5.3 预测. 132 §5.4 最优设计. 139 习题五 . 144 第六章 线性回归模型. 147 §6.1 最小二乘估计. 147 §6.2 回归方程和系数的检验. 150 §6.3 回归自变量的选择. 155 §6.4 回归诊断. 164 §6.5 Box-Cox 变换 . 175 §6.6 均方误差及复共线性. 178 §6.7 有偏估计. 183 习题六 . 194 第七章 方差分析模型. 198 §7.1 单向分类模型. 198 §7.2 两向分类模型(无交互效应). 208 §7.3 两向分类模型(交互效应存在). 216 §7.4 套分类模型. 225 §7.5 误差方差齐性及正态性检验. 232
目录.ix.习题七238第八章协方差分析模型: 241 241$8.1般分块线性模型$8.2参数估计245假设检验247$8.3250$8.4计算方法习题八254第九章混合效应模型256.$9.1固定效应的估计 256随机效应的预测259$9.2260$9.3混合模型方程方差分析估计：262$9.4$9.5极大似然估计268273$9.6限制极大似然估计277$9.7最小范数二次无偏估计..283$9.8方差分量的检验习题九285-参考文献288
目 录 ·ix· 习题七 . 238 第八章 协方差分析模型 . 241 §8.1 一般分块线性模型. 241 §8.2 参数估计. 245 §8.3 假设检验. 247 §8.4 计算方法. 250 习题八 . 254 第九章 混合效应模型. 256 §9.1 固定效应的估计. 256 §9.2 随机效应的预测. 259 §9.3 混合模型方程. 260 §9.4 方差分析估计. 262 §9.5 极大似然估计. 268 §9.6 限制极大似然估计. 273 §9.7 最小范数二次无偏估计. 277 §9.8 方差分量的检验. 283 习题九 . 285 参考文献. 288