第一节：统计学习与推理基础 00M队 Fisher经典参数统计理论 Fisher把判别分析、回归分析和和密度估计问题等表达为特定参数化模型 的参数估计问题，并提出了估计所有模型未知参数的方法一一最大似然法。 2
Fisher经典参数统计理论 第一节：统计学习与推理基础 2 Fisher把判别分析、回归分析和和密度估计问题等表达为特定参数化模型 的参数估计问题，并提出了估计所有模型未知参数的方法——最大似然法
第一节：统计学习与推理基础 000 、经验非线性方法 人工神经网络(artificial neural network,ANN)具有很好的非线性逼近能 力，克服了经典参数统计理论中参数估计方法的困难，但存在模型结构难 以确定（缺乏一种统一的数学理论，更多地依赖于使用者的技巧）、可解 释性差（没有一个显性的表达式）、易于出现过度训练和训练不足、陷入 局部最小等诸多缺陷 6 5 ●D 4 ① D
经验非线性方法 第一节：统计学习与推理基础 3 人工神经网络（artificial neural network, ANN）具有很好的非线性逼近能 力，克服了经典参数统计理论中参数估计方法的困难，但存在模型结构难 以确定（缺乏一种统一的数学理论，更多地依赖于使用者的技巧）、可解 释性差（没有一个显性的表达式）、易于出现过度训练和训练不足、陷入 局部最小等诸多缺陷
第一节：统计学习与推理基础 0似小样本统计学习理论 (-)VC维 (二)推广性的界 对各种类型的函数集，统计学习理论系统地研究了其经验风险与期望风险之间 的关系，即推广性的界。 (三)结构风险最小 (四)小样本与转导推理
小样本统计学习理论 第一节：统计学习与推理基础 4 （一）VC维 （二）推广性的界 对各种类型的函数集，统计学习理论系统地研究了其经验风险与期望风险之间 的关系，即推广性的界。 （三）结构风险最小 （四）小样本与转导推理
第一节：统计学习与推理基础 00M以 基于概率的方法 基于概率的方法主要包括贝叶斯(Bayes)推理及隐马尔可夫模型(hidden Markov model,.HMM),其中贝叶斯推理需利用来源于经验和历史资料的先 验信息。 5
基于概率的方法 第一节：统计学习与推理基础 5 基于概率的方法主要包括贝叶斯(Bayes)推理及隐马尔可夫模型(hidden Markov model,HMM)，其中贝叶斯推理需利用来源于经验和历史资料的先 验信息
第二节：统计模型与参数推断 000以 参数估计量的评选标准 (一)无偏性 参数估计量的期望值与参数真值是相等的，这种性质称为无偏性。具有无 偏性的估计量称为无偏估计量。 (二)有效性 (三)相合性 (四)充分性与完备性 6
参数估计量的评选标准 第二节：统计模型与参数推断 6 （一）无偏性 参数估计量的期望值与参数真值是相等的，这种性质称为无偏性。具有无 偏性的估计量称为无偏估计量。 （二）有效性 （三）相合性 （四）充分性与完备性