机器学习 第4章人工神经网络(ANN) 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-人工神经网络作者：Mitchell 译者：曾华军等讲者：陶晓鹏 1 机器学习 第4章 人工神经网络（ANN）
概述 人工神经网络提供了一种普遍且实用的方法从 样例中学习值为实数、离散值或向量的函数 反向传播算法,使用梯度下降来调节网络参数 以最佳拟合由输入-输出对组成的训练集合 人工神经网络对于训练数据中的错误健壮性很 好 ·人工神经网络已被成功应用到很多领域,例如 视觉场景分析,语音识别,机器人控制 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏 2
2003.12.18 机器学习-人工神经网络作者：Mitchell 译者：曾华军等讲者：陶晓鹏 2 概述 • 人工神经网络提供了一种普遍且实用的方法从 样例中学习值为实数、离散值或向量的函数 • 反向传播算法，使用梯度下降来调节网络参数 以最佳拟合由输入-输出对组成的训练集合 • 人工神经网络对于训练数据中的错误健壮性很 好 • 人工神经网络已被成功应用到很多领域，例如 视觉场景分析，语音识别，机器人控制
简介 神经网络学习对于逼近实数值、离散值或向量 值的目标函数提供了一种健壮性很强的方法 对于某些类型的问题,如学习解释复杂的现实 世界中的传感器数据,人工神经网络是目前知 道的最有效的学习方法 反向传播算法 成功例子,学习识别手写字符,学习识别口语, 学习识别人脸 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-人工神经网络作者：Mitchell 译者：曾华军等讲者：陶晓鹏 3 简介 • 神经网络学习对于逼近实数值、离散值或向量 值的目标函数提供了一种健壮性很强的方法 • 对于某些类型的问题，如学习解释复杂的现实 世界中的传感器数据，人工神经网络是目前知 道的最有效的学习方法 • 反向传播算法 • 成功例子，学习识别手写字符，学习识别口语， 学习识别人脸
生物学动机 ANN受到生物学的启发,生物的学习系统是由相互连接的神经元 组成的异常复杂的网络 ANN由一系列简单的单元相互密集连接构成的,其中每一个单元 有一定数量的实值输入,并产生单一的实数值输出 人脑的构成,大约有101个神经元,平均每一个与其他104个相连 神经元的活性通常被通向其他神经元的连接激活或抑制 最快的神经元转换时间比计算机慢很多,然而人脑能够以惊人的 速度做出复杂度惊人的决策 很多人推测,生物神经系统的信息处理能力一定得益于对分布在 大量神经元上的信息表示的高度并行处理 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-人工神经网络作者：Mitchell 译者：曾华军等讲者：陶晓鹏 4 生物学动机 • ANN受到生物学的启发，生物的学习系统是由相互连接的神经元 组成的异常复杂的网络。 • ANN由一系列简单的单元相互密集连接构成的，其中每一个单元 有一定数量的实值输入，并产生单一的实数值输出 • 人脑的构成，大约有1011个神经元，平均每一个与其他104个相连 • 神经元的活性通常被通向其他神经元的连接激活或抑制 • 最快的神经元转换时间比计算机慢很多，然而人脑能够以惊人的 速度做出复杂度惊人的决策 • 很多人推测，生物神经系统的信息处理能力一定得益于对分布在 大量神经元上的信息表示的高度并行处理
生物学动机(2) ANN系统的一个动机就是获得这种基于分布表 示的高度并行算法 ANN并未模拟生物神经系统中的很多复杂特征 ANN的研究分为两个团体 使用ANN研究和模拟生物学习过程 获得髙效的机器学习算法,不管这种算法是否反映 了生物过程 本书属于后一个研究团体 2003.12.18机器学习-人工神经网络作者: Mitchel译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-人工神经网络作者：Mitchell 译者：曾华军等讲者：陶晓鹏 5 生物学动机（2） • ANN系统的一个动机就是获得这种基于分布表 示的高度并行算法 • ANN并未模拟生物神经系统中的很多复杂特征 • ANN的研究分为两个团体 – 使用ANN研究和模拟生物学习过程 – 获得高效的机器学习算法，不管这种算法是否反映 了生物过程 • 本书属于后一个研究团体