11-4CMAC网络的泛化能力 11-4-3样本训练顺序对CMAC网络性能的影响 格雷码(英文:Gray Code,又称作葛莱码,二进制循环码)是1880年 由法国工程师Jean-Maurice-Emlle Baudot.发明的一种编码,是一种绝对 编码方式,典型格雷码是一种具有反射特性和循环特性的单步自补码, 它的循环、单步特性消除了随机取数时出现重大误差的可能,它的反射、 自补特性使得求反非常方便。函数真实值如下图所示。 4 函数真实值图 先后顺序仿真图 先后顺序伤真图 串联顺序仿真图 格雷码顺序仿真图 (SSE=1.406) (SSE=4.156) (SSE=1.3526) (SSE=7.9623) 样本训练的顺序对小脑模型神经网络的训练结果是有影响的。训练时 样本间跨度(或坐标变化)较大的那些点网络学习效果较差,因此在样本输 入训练过程中,应尽量让样本按照邻近且连续的顺序学习
格雷码(英文:Gray Code,又称作葛莱码,二进制循环码)是1880年 由法国工程师Jean-Maurice-Emlle Baudot发明的一种编码,是一种绝对 编码方式,典型格雷码是一种具有反射特性和循环特性的单步自补码, 它的循环、单步特性消除了随机取数时出现重大误差的可能,它的反射、 自补特性使得求反非常方便。函数真实值如下图所示。 11-4 CMAC网络的泛化能力 11-4-3 样本训练顺序对CMAC网络性能的影响 函数真实值图 先后顺序仿真图 先后顺序仿真图 串联顺序仿真图 格雷码顺序仿真图 (SSE 1.406) (SSE 4.156) (SSE 1.3526) (SSE 7.9623) 样本训练的顺序对小脑模型神经网络的训练结果是有影响的。训练时 样本间跨度(或坐标变化)较大的那些点网络学习效果较差,因此在样本输 入训练过程中,应尽量让样本按照邻近且连续的顺序学习
11-5CMAC网络的几个问题 1) CMAC的逼近原理:用分段超平面,拟合非线性超曲面。 2) 因是局部网络,每次学习调整的权数为c个,故学习速 度快,不存在局部极小。 3) 泛化能力与c有关,c增大,泛化能力增强。相近的输入, 有相近的输出(在无碰撞情况下)。 4) 决定网络性能的主要参数:泛化常数c;相邻输入间的 重叠程度;输入的量化级。影响到逼近精度、泛化能力 和学习速度。 5) 为提高量化分辨率和泛化能力,需增加存储容量。它随 输入维数的增加而增加
1) CMAC的逼近原理:用分段超平面,拟合非线性超曲面。 2) 因是局部网络,每次学习调整的权数为c个,故学习速 度快,不存在局部极小。 3) 泛化能力与c有关,c增大,泛化能力增强。相近的输入, 有相近的输出( 在无碰撞情况下)。 4) 决定网络性能的主要参数:泛化常数c;相邻输入间的 重叠程度;输入的量化级。影响到逼近精度、泛化能力 和学习速度。 5) 为提高量化分辨率和泛化能力,需增加存储容量。它随 输入维数的增加而增加。 11-5 CMAC网络的几个问题
11-5CMAC网络的几个问题 6)高阶CMAC:为提高逼近精度,也可提高接收域函数 的阶次,若下图2为0次接收域函数,高阶CMAC用1次接收 域函数,见下图。 c=4 (a)维c=4 (b)邻近两点输入重叠单元=3 图2-7-3 1次接收域函数例
图 2-7-3 1 次接收域函数例 (b)邻近两点输入重叠单元=3 c=4 (a)一维 c=4 6) 高阶CMAC:为提高逼近精度,也可提高接收域函数 的阶次,若下图2为0次接收域函数,高阶CMAC用1次接收 域函数,见下图。 11-5 CMAC网络的几个问题
11-6仿真示例 例11-1用CMAC逼近函数d=f(u)=sin(2mu/360) (1)离散化f() ul fa(w=fa(ul)=sin(2π) 360, ul=1:20:161 样本长度工=9 (2)采用一维输入、一维输出结构的CMAC逼近函数; (3)采用c=6,邻近两点输入重叠单元=5; (4) 无碰撞,训练10次,结果见图; (5)有碰撞,训练10次,结果见图。 可见,与无碰撞比较,收敛性态变坏,逼近样本的程度较差
(1)离散化 f (u) ) 360 1 ( ) ( 1) sin(2 u f u f u d d , u1 1: 20 :161 样本长度 L=9 (2)采用一维输入、一维输出结构的 CMAC 逼近函数; (3)采用 c=6,邻近两点输入重叠单元=5; (4)无碰撞,训练 10 次,结果见图; (5)有碰撞,训练 10 次,结果见图。 可见,与无碰撞比较,收敛性态变坏,逼近样本的程度较差。 例 11-1 用 CMAC 逼近函数d f (u) sin(2u / 360) 11-6 仿真示例
演示 例11-1 CMAC 逼近sin函数
CMAC 逼近sin函数 例11-1 演示