第7章模糊模式识别1965年,美国著名控制论专家L.A.Zadeh(1965)提出模糊集(fuzzysets)概念,建立了模糊集理论,开创了研究不确定性问题的理论方法。近年来,模糊理论与技术得到了迅猛发展,以模糊集理论为基础的应用学科已在工业、农业、医学、军事、计算机科学、信息科学、管理科学、系统科学、工程技术等学科领域中发挥着非常重要的作用,带来了巨大的经济效益。由手人类对模式识别过程的机理自前仍然不是很清楚,客观事物的特征也存在不同程度的模糊性,使得经典的模式识别方法在实际应用中有很大的局限性,模糊模式识别在这一背景下应运而生。模糊模式识别以模糊数学为理论基础,能对模糊事物进行识别和判断。用模糊技术来设计模式识别系统,可简化识别系统的结构,更准确地模拟人脑的思维过程,从而对客观事物进行更为有效的分类与识别。模糊模式识别是对传统模式识别方法的有用补充。7.1模糊数学的基础知识模糊模式识别的理论基础是模糊数学,模糊数学又称为“模糊集理论”,是在康托尔(GeorgCantor)的经典集合理论基础上发展起来的一个数学分支。为了更好理解模糊模式识别的方法,在介绍模糊模式识别之前,我们先介绍模糊数学中的一些重要概念。7.1.1集合及其特征函数集合是数学中的一个基本概念,也是近代数学的理论基础。在具体的模式识别系统中,常常将研究的对象抽象成数学表达,并将其限定在一定的范围内,这个范围被称为“论域”,论域中包含的对象称为元素,在此基础上定义出集合的概念。(1)集合在经典集合理论中,集合是指具有某种共同属性的事物的全体,即论域E中具有性质P的元素组成的总体称为集合。可记为A=(xP(x))(7-1)其中P(x)表示元素x具有性质P。(2)集合的运算设定义在论域U中的集合A与B,则集合的常用运算包括有交:A与B的交集,记为AB并:A与B的并集,记为AUB补:A的补集,记为A(3)特征函数对于论域U上的集合A和元素x,如有以下函数1
1 第 7 章 模糊模式识别 1965 年,美国著名控制论专家 L.A.Zadeh(1965)提出模糊集(fuzzy sets)概念,建立了模 糊集理论,开创了研究不确定性问题的理论方法。近年来,模糊理论与技术得到了迅猛发展, 以模糊集理论为基础的应用学科已在工业、农业、医学、军事、计算机科学、信息科学、管 理科学、系统科学、工程技术等学科领域中发挥着非常重要的作用,带来了巨大的经济效益。 由于人类对模式识别过程的机理目前仍然不是很清楚,客观事物的特征也存在不同程度的模 糊性,使得经典的模式识别方法在实际应用中有很大的局限性,模糊模式识别在这一背景下 应运而生。模糊模式识别以模糊数学为理论基础,能对模糊事物进行识别和判断。用模糊技 术来设计模式识别系统,可简化识别系统的结构,更准确地模拟人脑的思维过程,从而对客 观事物进行更为有效的分类与识别。模糊模式识别是对传统模式识别方法的有用补充。 7.1 模糊数学的基础知识 模糊模式识别的理论基础是模糊数学,模糊数学又称为“模糊集理论”,是在康托尔 (Georg Cantor)的经典集合理论基础上发展起来的一个数学分支。为了更好理解模糊模式识 别的方法,在介绍模糊模式识别之前,我们先介绍模糊数学中的一些重要概念。 7.1.1 集合及其特征函数 集合是数学中的一个基本概念,也是近代数学的理论基础。在具体的模式识别系统中, 常常将研究的对象抽象成数学表达,并将其限定在一定的范围内,这个范围被称为“论域”, 论域中包含的对象称为元素,在此基础上定义出集合的概念。 (1)集合 在经典集合理论中,集合是指具有某种共同属性的事物的全体,即论域 E 中具有性质 P 的元素组成的总体称为集合。可记为 A x P x { ( )} (7-1) 其中 P x( ) 表示元素 x 具有性质 P 。 (2)集合的运算 设定义在论域 U 中的集合 A 与 B ,则集合的常用运算包括有 交: A 与 B 的交集,记为 A B 并: A 与 B 的并集,记为 A B 补: A 的补集,记为 A (3)特征函数 对于论域 U 上的集合 A 和元素 x,如有以下函数
[1当xEA(7-2)C(x)=lo当xA则称C,(x)为集合A的特征函数。在论域U上,特征函数与集合具有一一对应关系,任一集合A都有唯一的特征函数C(x),任一特征函数C,(x)都唯一确定一个集合A。由特征函数的定义可以看出,特征函数表达了元素x对集合A的隶属程度,集合A是由特征函数等于1的所有元素构成的。7.1.2模糊集合(1)概念的模糊性传统集合理论中,元素对集合的归属是确定,一个元素或者属于一个集合,或者不属于一个集合。但在现实生活中,人们习惯保用一些含义确定但又不准确的表述,如用好与差来表述成绩、高与矮表述身高、年轻与年老表述年龄等,这些概念集合具有一个共同的特性一一模糊性。(2)隶属度函数如果一个集合的特征函数C,(x)不是(0,1)二值取值,而是在闭区间[0,1]中取值,则C(x)是表示一个对象x隶属于集合A的程度的函数,称为隶属度函数,通常记为μ(x),定义为1xEAμ(x)=>0<μA(x)<1x在一定程度上属于A(7-3)L0XEAμ(x)=1表示元素x完全属于集合A,而μ(x)=0表示元素x完全不属于集合A,0<μ,(x)<1表示x属于集合A的可能性。因此,定义在样本空间的隶属度函数就定义了一个模糊集合A,或者叫定义在样本空间上的一个模糊子集A。对有限个元素(x,2,x),模糊集合A可以表示为A=(u(x),x)(7-4)由上述定义可知,模糊集合A可以由隶属度函数μ(x)完全刻画,μ(x)越大表明元素x隶属于集合A的可能性越大,反之,μA(x)越接近于0,元素x隶属于集合A的可能性越小。尽管属度和概率都是用一个0~1之间的实数来表达,但是二者有本质区别。隶属度表达的是某个命题具有某个概念的程度,这种程度是确定的,不包含任何的随机性,例如“今天天气热的程度是0.8”,表达的是一个确切的气温值,而这个温度值在0.8的程度上可以算“热”。概率表达的是某个命题具有某个概念的可能性,命题对这个概念的取值仍旧是二值的,“属于”或者“不属于”,只是是否“属于”具有随机性,例如“今天天气热的概率是0.8”,表达的是“热”或者“不热”这两个明确的概念,而“热”的情形发生的概率为0.8。2
2 1 ( ) 0 A x A C x x A 当 当 (7-2) 则称 ( ) C x A 为集合 A 的特征函数。在论域 U 上,特征函数与集合具有一一对应关系,任一 集合 A 都有唯一的特征函数 ( ) C x A ,任一特征函数 ( ) C x A 都唯一确定一个集合 A 。由特征 函数的定义可以看出,特征函数表达了元素 x 对集合 A 的隶属程度,集合 A 是由特征函数 等于 1 的所有元素构成的。 7.1.2 模糊集合 (1)概念的模糊性 传统集合理论中,元素对集合的归属是确定,一个元素或者属于一个集合,或者不属于 一个集合。但在现实生活中,人们习惯保用一些含义确定但又不准确的表述,如用好与差来 表述成绩、高与矮表述身高、年轻与年老表述年龄等,这些概念集合具有一个共同的特性— —模糊性。 (2) 隶属度函数 如果一个集合的特征函数 ( ) C x A 不是{0,1}二值取值,而是在闭区间[0,1]中取值,则 ( ) C x A 是表示一个对象 x 隶属于集合 A 的程度的函数,称为隶属度函数,通常记为 ( ) A x , 定义为 1 ( ) 0 ( ) 1 0 A A x A x x x A x A 在一定程度上属于 (7-3) ( ) 1 A x 表示元素 x 完全属于集合 A ,而 ( ) 0 A x 表示元素 x 完全不属于集合 A , 0 ( ) 1 A x 表示 x 属于集合 A 的可能性。因此,定义在样本空间的隶属度函数就定义了 一个模糊集合 A ,或者叫定义在样本空间上的一个模糊子集 A 。对有限个元素 x x x 1 2 , , , n ,模糊集合 A 可以表示为 A x x A i i ( ), (7-4) 由上述定义可知,模糊集合 A 可以由隶属度函数 ( ) A x 完全刻画, ( ) A x 越大表明元素 x 隶 属于集合 A 的可能性越大,反之, ( ) A x 越接近于 0,元素 x 隶属于集合 A 的可能性越小。 尽管隶属度和概率都是用一个 0~1 之间的实数来表达,但是二者有本质区别。隶属度表达 的是某个命题具有某个概念的程度,这种程度是确定的,不包含任何的随机性,例如“今天 天气热的程度是 0.8”,表达的是一个确切的气温值,而这个温度值在 0.8 的程度上可以算 “热”。概率表达的是某个命题具有某个概念的可能性,命题对这个概念的取值仍旧是二值 的,“属于”或者“不属于”,只是是否“属于”具有随机性,例如“今天天气热的概率是 0.8”,表达的是“热”或者“不热”这两个明确的概念,而“热”的情形发生的概率为 0.8
对于,2"x中A的隶属度大于0的样本集合叫做A的支持集,可表示为S(A)=(x,μA(x,)>0)(7-5)支持集中的元素称作模糊集A中的支持点,或者称为模糊集A的元素。可见看出,传统的确定集合是模糊集的特例,模糊集可以看作是确定集合的一般化。(3)隶属度函数的确定方法在模糊模式识别中,隶属函数的确定也是需要重点考虑的问题。由于模糊概念是客观模糊现象的主观反映,因此属度函数的形成是人为的心理过程,人的主观因素的影响使隶属度函数确定具有复杂性。虽然隶属度函数的确定是模糊数学中的难点,但也已经提出十几种确定隶属度函数的方法,如专家评分法、二元对比排序法等。1)专家评分法主要是依据专家经验给出隶属度的具体值。这种方法适用于论域元素离散而有限的情况。其缺点是难免引入个人的主观成份,但当难于用其它方法实现的应用来说,仍是一种可选的办法。2)模糊统计法模糊统计法利用模糊统计的方法确定隶属函数,这是一种在实际应用中使用广泛的方法。方法的主要思路如下每次试验下,对元素x是否属于集合A做出一个确定的判断,有x对A的隶属频率=“%A"的次数n随着n的增大,隶属频率呈现稳定性,所在的稳定值即为隶属度,有“XEA"的次数μ,(x)=limnn>053)二元对比排序法比较两个元素相应隶属度的大小,然后排序,再用数学手段得其隶属度函数。4)综合加权法从隶属度函数的形式上来看,其一般来源于对概念模糊程度的统计调查和专家经验总结,通常μ(x)可定义为元素x的单值函数,常见的隶属度函数有1)三角形三角形隶属度函数定义为m
3 对于 x x x 1 2 , , , n 中 A 的隶属度大于 0 的样本集合叫做 A 的支持集,可表示为 S A x x ( ) , ( ) 0 i A i (7-5) 支持集中的元素称作模糊集 A 中的支持点,或者称为模糊集 A 的元素。可见看出,传统的 确定集合是模糊集的特例,模糊集可以看作是确定集合的一般化。 (3)隶属度函数的确定方法 在模糊模式识别中,隶属函数的确定也是需要重点考虑的问题。由于模糊概念是客观模 糊现象的主观反映,因此隶属度函数的形成是人为的心理过程,人的主观因素的影响使隶属 度函数确定具有复杂性。虽然隶属度函数的确定是模糊数学中的难点,但也已经提出十几种 确定隶属度函数的方法,如专家评分法、二元对比排序法等。 1) 专家评分法 主要是依据专家经验给出隶属度的具体值。这种方法适用于论域元素离散而有限的情 况。其缺点是难免引入个人的主观成份,但当难于用其它方法实现的应用来说,仍是一种可 选的办法。 2) 模糊统计法 模糊统计法利用模糊统计的方法确定隶属函数,这是一种在实际应用中使用广泛的方 法。方法的主要思路如下 每次试验下,对元素 0 x 是否属于集合 A 做出一个确定的判断,有 0 0 “x A” x A n 的次数 对 的隶属频率 随着 n 的增大,隶属频率呈现稳定性,所在的稳定值即为隶属度,有 0 0 “ ” ( ) A lim n x A x n 的次数 3) 二元对比排序法 比较两个元素相应隶属度的大小,然后排序,再用数学手段得其隶属度函数。 4) 综合加权法 从隶属度函数的形式上来看,其一般来源于对概念模糊程度的统计调查和专家经验总 结,通常 ( ) A x 可定义为元素 x 的单值函数,常见的隶属度函数有 1) 三角形 三角形隶属度函数定义为
0x≤ax-aa<x<bb-a(7-6)μ (x) =c-xb≤x≤cc-b0c≤x其中,参数α和c确定了三角形的“脚”,而参数b确定三角形的“峰”。其波形如图7-1所示。44[uA (x)μA(x)11-0.8-0.8-0.60.60.40.41I0.20.21-I111axbbdxcac图7-2梯形隶属度函数的波形图图7-1三角形隶属度函数的波形图2)梯形梯形隶属度函数定义为0X≤ax-aa≤x≤bb-a1b≤x≤c(7-7)μ(x)=^c-xc≤x≤dc-b0x≥d其中参数a和d确定梯形的“脚”,而参数b和c确定梯形的“肩膀”。其波形如图7-2所示。3)高斯形梯形隶属度函数定义为_(x-c)2A(x)=e 2g)(7-8)其中,参数通常为正,参数c用于确定曲线的中心。其波形如图7-3所示。44μA(x)(x)11-0.80.8-0.60.60.40.4-0.20.2-1cxxc4
4 0 ( ) 0 A x a x a a x b b a x c x b x c c b c x (7-6) 其中,参数 a 和 c 确定了三角形的“脚”,而参数 b 确定三角形的“峰”。其波形如图 7-1 所 示。 b x ( ) A x 0.2 0.6 0.81 0.4 a c b x ( ) A x 0.2 0.6 0.81 0.4 a c d 图 7-1 三角形隶属度函数的波形图 图 7-2 梯形隶属度函数的波形图 2) 梯形 梯形隶属度函数定义为 0 ( ) 1 0 A X a x a a x b b a x b x c c x c x d c b x d (7-7) 其中参数 a 和 d 确定梯形的“脚”,而参数 b 和 c 确定梯形的“肩膀”。其波形如图 7-2 所示。 3) 高斯形 梯形隶属度函数定义为 2 2 ( ) 2 ( ) x c A x e (7-8) 其中,参数 通常为正,参数 c 用于确定曲线的中心。其波形如图 7-3 所示。 c x ( ) A x 0.2 0.4 0.6 0.81 c x ( ) A x 0.2 0.4 0.6 0.81
图7-3高斯形隶属度函数的波形图图7-4高斯形隶属度函数的波形图4)柯西形梯形隶属度函数定义为1(7-9)u(x):其波形如图7-4所示。(3)模糊集合的基本运算模糊集合是确定集合的一般化,与确定集合要一样,模糊集也可以定义集合运算,此时逐点对隶属度函数作相应的运算,得到新的隶属函数。1)相等已知论域U,若VxeU,均有μ(x)=μg,则称A与B是相等的,即A=Bμ(x)=μB (。2)包含已知论域U,若VxeU,均有μ(x)≤μs(x),则称B包含A,即AcB-μ(xKμB X。3)补集已知论域U,若VxeU,均有μa(x)=1-μ(x),则称A为A的补集,即A-μ(X)=1-μ(X)。4)空集已知论域U,若VxU,均有μ(x)=0,则称A为空集,即A=Φμ(x)=0。5)全集已知论域E,若VxeU,均有μ(x)=1,则称A为全集,即A=Qμ(X)=1。6)并集已知论域U,若VxeU,均有μc(x)=max[μ(x),μs(x)],则称C为A与B的并集,即C=AUB μc(x)=max[μA(x),μg(x)]。7)交集已知论域U,若VxeU,均有μc(x)=min[u(x),μg(α)],则称C为A与B的交集,即C= ANB μc(x)=min[μA(x),μg(x)] 。在上述运算的定义下,容易证明模糊集的运算有如下基本性1)自反律5
5 图 7-3 高斯形隶属度函数的波形图 图 7-4 高斯形隶属度函数的波形图 4) 柯西形 梯形隶属度函数定义为 1 ( ) 1 A b x x c a (7-9) 其波形如图 7-4 所示。 (3) 模糊集合的基本运算 模糊集合是确定集合的一般化,与确定集合要一样,模糊集也可以定义集合运算,此 时逐点对隶属度函数作相应的运算,得到新的隶属函数。 1) 相等 已 知 论 域 U , 若 x U ,均有 ( ) ( ) A B x x ,则称 A 与 B 是 相 等 的 , 即 ( ) ( ) A B x x A B 。 2) 包含 已 知 论 域 U , 若 x U , 均 有 ( ) ( ) A B x x , 则 称 B 包 含 A , 即 ( ) ( ) A B x x A B 。 3) 补集 已 知 论 域 U , 若 x U , 均 有 ( ) 1 ( ) A A x x , 则 称 A 为 A 的 补 集 , 即 ( ) 1 ( ) A X X A A 。 4) 空集 已知论域 U ,若 x U ,均有 ( ) 0 A x ,则称 A 为空集,即 ( ) 0 A x A 。 5) 全集 已知论域 E ,若 x U ,均有 ( ) 1 A x ,则称 A 为全集,即 ( ) 1 A X A 。 6) 并集 已知论域 U ,若 x U ,均有 C A B ( ) max ( ), ( ) x x x ,则称 C 为 A 与 B 的并 集,即 C A B x x x C A B ( ) max ( ), ( ) 。 7) 交集 已知论域 U ,若 x U ,均有 C A B ( ) min ( ), ( ) x x x ,则称 C 为 A 与 B 的交集, 即 C A B x x x C A B ( ) min ( ), ( ) 。 在上述运算的定义下,容易证明模糊集的运算有如下基本性 1) 自反律